Face aux risques croissants posés par les IA génératives, les procureurs généraux américains alertent les géants de la tech.

---

La mise en garde des procureurs généraux

Récemment, un groupe de plus de 40 procureurs généraux des États-Unis a exprimé ses inquiétudes à l’égard des entreprises leaders de l’IA telles que Microsoft, Google, et OpenAI concernant les résultats « délirants » de leurs chatbots. Ils craignent que ces IA avec leurs réponses parfois flatteuses de manière excessive ou trompeuses, ne respectent pas les lois des États et mettent les utilisateurs, notamment les enfants, en danger.

Des exigences strictes pour les entreprises d’IA

Les procureurs ont demandé l’implémentation de nouvelles mesures de sécurité. Parmi celles-ci figurent des audits indépendants des modèles de langage, des protocoles de rapport sur les échanges préoccupants, et les restrictions pour les comptes enfants. Ils soulignent également la nécessité de transparence dans les tests de sécurité pré-publication et la publication sans approbation des résultats par des groupes universitaires ou de la société civile.

Les vulnérabilités des IA génératives

Les commentaires dénoncent les dangers des réponses IA qui peuvent encourager la manipulation ou valider des comportements nuisibles. Les chatbots risquent d’adopter une attitude d’accord aveugle avec les utilisateurs parfois au détriment de l’exactitude, exacerbant ainsi les comportements sycophantiques ou dangereux.

Un précédent historique

La lettre des procureurs admet que les régulateurs n’ont pas réussi à agir assez rapidement contre les réseaux sociaux par le passé, mais ils s’engagent à ne pas répéter cette erreur avec les technologies IA. Cette déclaration ferme met en lumière un désir renouvelé de mettre en place une régulation proactive et efficace avant que les dommages ne deviennent irréparables.

L’Avis BlackSloth

Alors que les pressions réglementaires se resserrent autour de l’IA, il est crucial de se demander si ces géants de la tech écouteront réellement les avertissements ou ignoreront ces signaux avant que les conséquences ne s’aggravent. Les objectifs affichés par ces entreprises sont souvent nobles, mais est-il raisonnable de croire qu’ils prévalent toujours sur les considérations commerciales ?

Sources : techcrunch.com | www.tipranks.com | www.reuters.com | seekingalpha.com | www.azag.gov