← Glossaire Terme
auto-amélioration récursive
L’idée qu’une IA s’améliore elle-même, puis utilise sa nouvelle version pour progresser encore.
L’auto-amélioration récursive, parfois abrégée RSI, décrit un système d’IA qui augmente ses propres capacités, puis se sert de cette amélioration pour recommencer, avec une accélération potentielle à chaque cycle.
Le concept occupe une place centrale dans la sécurité de l’IA. Un modèle qui y parviendrait de manière fiable pourrait progresser très vite et devenir difficile à surveiller ; les chercheurs recherchent donc prudemment tout signe précurseur.
Mentionné dans