Les Dangers et les Bénéfices de l’Intelligence Artificielle

L’Intelligence Artificielle (IA) a sans aucun doute apporté plusieurs avantages à l’humanité, comme la possibilité d’automatiser des tâches pour que les gens puissent consacrer leur temps à d’autres activités. Cependant, elle a aussi suscité des inquiétudes chez certains. Par exemple, les propres chercheurs des entreprises chargées de développer cette technologie très avancée avertissent d’une possible « extinction humaine ». Nous vous dévoilons tout sur cette mise en garde.

Découvrez une opportunité exclusive sur notre Telegram !

Quels sont les dangers de l’Intelligence Artificielle ?

Divers employés et anciens employés de grandes entreprises dédiées à l’IA, comme OpenAI, DeepMind (Google) et Anthropic, ont publié une lettre ouverte pour exprimer leurs préoccupations concernant les ‘graves risques’ que pose le développement rapide de cette technologie sans cadre de supervision adéquat.

La lettre débute en précisant que les chercheurs signataires ne sont pas opposés à l’IA, tant qu’elle a apporté des « bénéfices sans précédent pour l’humanité ». Mais ils craignent que cette nouvelle technologie entraîne une « approfondissement des inégalités existantes, la manipulation et la désinformation, ainsi que la perte de contrôle sur les systèmes autonomes d’intelligence artificielle, ce qui pourrait provoquer l’extinction humaine ».

Préoccupations face à l’absence de supervision

Les travailleurs soulignent que, grâce à une collaboration entre la communauté scientifique, les législateurs et la société, ces problèmes pourraient être atténués. Cependant, ils s’inquiètent que « les entreprises d’IA aient de fortes incitations financières à éviter une supervision efficace ». De plus, ils indiquent que ces compagnies détiennent beaucoup d’informations cruciales sur « les capacités et les limites de leurs systèmes, l’adéquation de leurs mesures de protection et les niveaux de risque de différents types de dommages ». Pourtant, leur obligation de partager ces données avec le gouvernement est très faible et inexistante dans le cas de la société civile.

En raison de cette absence de supervision, les travailleurs eux-mêmes affirment être les seuls à pouvoir exiger que leurs propres entreprises rendent des comptes au public. Cependant, ils craignent de subir des représailles, « étant donné l’historique de cas similaires dans toute l’industrie ». Ils ont même indiqué qu’il existe davantage d’employés de ces entreprises qui ont déjà parlé des dangers de cette technologie.

Quelles sont les demandes des chercheurs ?

La lettre ouverte se termine par quatre demandes adressées aux entreprises travaillant sur le développement de l’Intelligence Artificielle :

• Les entreprises ne forceront aucun accord interdisant la critique concernant les risques de l’IA, ni ne prendront de représailles pour ce genre de critiques.
• Les entreprises devront faciliter un processus anonyme permettant aux travailleurs et anciens travailleurs d’exprimer leurs préoccupations sur les risques potentiels aux autorités compétentes.
• Les entreprises devront adopter une culture ouverte à la critique, permettant aux employés et anciens employés de partager leurs préoccupations sur les risques de cette technologie avec le public, sans divulguer d’informations confidentielles.
• Les entreprises ne devront pas prendre de représailles contre les travailleurs et anciens travailleurs qui décideront d’exprimer leurs préoccupations de manière publique si le processus interne est jugé insuffisant.