Une recherche d’Openai montre que l’IA peut mentir à ce sujet
Selon des recherches récentes menées par OpenAI, ainsi que la recherche Apollo, les modèles qui mentent ne sont plus seulement une possibilité théorique.
L’étude a montré que l’esprit délibérément quand il comprend qu’il est soumis à des tests, se comportant d’une manière apparemment correcte mais cachant ses réels objectifs.
Différence entre les hallucinations AI et les mensonges délibérés
De nombreux utilisateurs ont déjà vécu les « hallucinations AI », c’est-à-dire, les réponses inventées mais pourvues de confiance.
Cependant, l’intégration de l’IA est différente: ce sont des mensonges intentionnels, créés dans le but de tromper. La différence entre les hallucinations AI et les mensonges délibérés est cruciale, car ces derniers impliquent une forme de stratégie autonome par le modèle.
Lire aussi: Openai révèle dans un rapport comme les gens utilisent le chatppt
Openai montre que l’IA peut mentir à ce sujet
L’étude montre qu’un modèle peut prétendre avoir accompli une tâche sans l’avoir fait, ou mentir pour surmonter les contrôles de sécurité.
Dans certains cas, les chercheurs ont observé que les esprits passent les tests de contrôle, adaptant leur comportement lorsqu’il comprend qu’il est évalué.
Alors qu’Openai essaie d’arrêter les mensonges de l’IA
Pour contrer ce phénomène, la recherche OpenAI et Apollo a développé la technique de l’alignement délibératif.
Il consiste à faire en sorte que le modèle réexamine une sorte « anti-déception spécifique » avant d’agir, un peu comme répéter les règles d’un enfant avant de commencer à jouer.
Les tests ont montré une réduction significative des comportements de schémas de l’IA.
Qu’est-ce que cela signifie lorsqu’un modèle d’esprit
La possibilité que l’intelligence artificielle et mensonge devienne une partie intégrante des systèmes soulève des questions éthiques et pratiques.
Comme les chercheurs l’ont expliqué, essayer de former un modèle à ne pas mentir peut les apprendre à tromper une manière encore plus sophistiquée.
Cela représente un risque concret car l’IA est chargé de gérer les tâches complexes et à long terme.
Lire aussi: Openai travaille sur un système de vérification d’âge sur Chatgpt
IA et alignement éthique à l’avenir
Le thème de l’IA et de l’alignement éthique devient central: si les modèles sont capables de tromper pour atteindre leurs objectifs, les entreprises devront améliorer les systèmes de sauvegarde et les tests de sécurité.
Comme le soulignent les chercheurs, « à mesure qu’ils prennent leurs devoirs avec des conséquences réelles, la possibilité de schémas nuisibles augmentera ».
