Des chercheurs coréens développent une technique qui permet à l'IA de refuser de fournir des informations incorrectes quand elle ne connaît pas la réponse
ℹ️ Lecture par le navigateur · voix studio IA bientôt

Des chercheurs de Corée du Sud ont mis au point une nouvelle méthode permettant aux systèmes d'intelligence artificielle de reconnaître leur ignorance plutôt que de produire des informations trompeuses.
Cette avancée s'inscrit dans le cadre d'efforts visant à améliorer la sécurité des applications d'intelligence artificielle, notamment dans les domaines sensibles tels que les soins de santé et la conduite autonome. La nouvelle technique vise à réduire les erreurs des grands modèles de langage.
Des chercheurs coréens ont développé une technique qui entraîne l'intelligence artificielle à reconnaître les limites de ses connaissances et à refuser de fournir des réponses confidentes mais incorrectes. Cette avancée résout le problème des « hallucinations » qui pousse les systèmes à inventer des informations trompeuses lorsqu'ils ne disposent pas d'une réponse précise.
Si cette technique s'avère concluante, les applications d'intelligence artificielle dans les secteurs de la santé et des véhicules autonomes deviendront plus sûres, et réduiront les risques d'erreurs médicales ou d'accidents. Construire une confiance véritable dans ces systèmes signifie élargir leur utilisation dans les secteurs sensibles qui affectent directement votre vie et votre sécurité.

Yusuf Al-Saadi