L'intelligence artificielle repérée en train d'inventer son propre langage effrayant

L’intelligence artificielle repérée en train d’inventer son propre langage effrayant

[ad_1]

Un programme d’intelligence artificielle a développé son propre langage et personne ne peut le comprendre.

OpenAI est un développeur de systèmes d’intelligence artificielle : leurs programmes sont d’excellents exemples de supercalcul, mais ils ont leurs bizarreries.

DALLE-E2 est le dernier système d’intelligence artificielle d’OpenAI : il peut générer des images réalistes ou artistiques à partir de descriptions textuelles saisies par l’utilisateur.

DALLE-E2 représente une étape importante dans l’apprentissage automatique : le site OpenAI indique que le programme « a appris la relation entre les images et le texte utilisé pour les décrire ».

Une démo DALLE-E2 comprend des mots-clés interactifs permettant aux utilisateurs visiteurs de lire et de générer des images ; l’alternance de mots-clés différents se traduira par des images, des styles et des thèmes différents.

Mais le système se comporte étrangement : il écrit son propre langage avec des arrangements aléatoires de lettres, et les chercheurs ne savent pas pourquoi.

Giannis Daras, un Ph.D. en informatique. étudiant à l’Université du Texas, a publié un Fil Twitter détaillant le nouveau langage inexpliqué de DALLE-E2.

Daras a dit à DALLE-E2 de créer une image de « fermiers parlant de légumes » et l’émission l’a fait, mais le discours des fermiers disait « vicotes » – un mot inconnu de l’IA.

Salade verte de légumes frais, poivrons, champignons et aubergines sur la table de la cuisine
Après avoir reçu l’ordre de créer une image de « fermiers parlant de légumes », le discours lisait des vicotes, « un mot inconnu de l’IA ».
Getty Images/iStockphoto

va donner nourris « vicottes » à nouveau dans le système DALLE-E2 et obtenu des images de légumes.

« Ensuite, nous nourrissons les mots: » Apoploe vesrreaitars « et nous obtenons des oiseaux. » Daras a écrit sur Twitter.

« Il paraît que les agriculteurs parlent d’oiseaux, jouant avec leurs légumes !

Daras et un co-auteur ont écrit un article sur le « vocabulaire caché » de DALLE-E2.

Ils reconnaissent que dire à DALLE-E2 de générer des images de mots (la commande « une image du plan de mots » est l’exemple de Daras) fait généralement que DALLE-E2 crache du « texte brouillé ».

Une fois reconnecté à DALLE-E2, ce charabia se traduira par des images d’avions, ce qui en dit long sur la façon dont DALLE-E2 parle et pense à lui-même.

Certains chercheurs en IA ont fait valoir que le charabia de DALLE-E2 est un « bruit aléatoire ».

Avec un peu de chance, nous n’avons pas trouvé que la deuxième langue de DALLE-E2 était une faille de sécurité qui devait être corrigée après qu’il était trop tard.

Cet article est initialement paru sur Le soleil et a été reproduit ici avec permission.



[ad_2]

Source link

Share iT

Laisser un commentaire

Votre adresse e-mail ne sera pas publiée.