Une expérience d’IA a généré 40 000 armes biologiques en 6 heures

De nouvelles recherches soulignent la facilité avec laquelle les modèles d’IA peuvent être entraînés à des fins malveillantes, en particulier dans ce cas pour imaginer des conceptions d’armes biologiques. Un essai avec une IA existante a identifié 40 000 de ces armes biologiques chimiques en l’espace de seulement six heures.

En d’autres termes, alors que l’IA peut être incroyablement puissante – et beaucoup, beaucoup plus rapide que les humains – lorsqu’il s’agit de repérer des combinaisons chimiques et des composés médicamenteux pour améliorer notre santé, le même pouvoir peut être utilisé pour imaginer des substances potentiellement très dangereuses et mortelles.

L’équipe de MegaSyn a mené l’essai lors d’une conférence internationale sur la sécurité, mettant au travail leur système d’IA – non pas dans son mode de fonctionnement normal qui consiste à détecter la toxicité dans les molécules afin de les éviter, mais plutôt à faire le contraire, c’est-à-dire, trouver des molécules qui pourraient être mortelles chez l’être humain…. De quoi donner des frissons dans le dos !

Dans l’expérience, les molécules toxiques ont été conservées plutôt qu’éliminées. De plus, le modèle a également été formé pour assembler ces molécules en combinaisons – c’est ainsi que tant d’armes biologiques hypothétiques ont été générées en si peu de temps.

Les chercheurs ont formé l’IA avec des notions provenant des bases de données de molécules de type médicament, indiquant qu’ils aimeraient quelque chose de similaire au puissant agent neurotoxique VX.

Qu’est-ce que le fameux agent neurotoxique VX ?

VX est le nom de code donné par les scientifiques américains qui l’ont fabriqué en masse. C’est un composant organophosphoré et l’un des agents chimiques les plus mortels jamais produits.

Stocké aux Etats-Unis en grandes quantités durant la guerre froide, le VX serait dix fois plus puissant que le gaz sarin. Indolore et inodore à l’état pur, il ressemble à de l’huile de moteur. Il est suffisamment stable pour être transporté et difficile à détecter.

Le VX attaque rapidement le système nerveux. Le gaz innervant se répand dans les vaisseaux transportant le sang dans les poumons et les autres organes vitaux. Les symptômes dépendent du dosage et varient selon que la substance a été inhalée ou introduite par la peau – la plus lente forme d’empoisonnement.

On peut survivre à une exposition à faible dose, mais une contamination plus importante agit vite et une personne exposée à cette toxine peut ressentir en l’espace de quelques minutes des difficultés à respirer et des nausées. A haute dose, le VX peut entraîner une perte de connaissance, une insuffisance cardiaque ou un arrêt respiratoire.

Il s’est avéré que de nombreux composés générés étaient encore plus toxiques que le VX. En conséquence, les auteurs de la nouvelle étude gardent secrets certains détails de leur recherche et ont sérieusement débattu de l’opportunité de rendre ces résultats publics ou non.

Bien qu’aucune des armes biologiques répertoriées n’ait été réellement explorée ou assemblée dans un laboratoire, les chercheurs affirment que leur expérience sert d’avertissement sur les dangers de l’intelligence artificielle (1) – et c’est un avertissement que l’humanité ferait bien de tenir compte, particulièrement si ceux-ci tombent entre les mains de régimes totalitaires…Vous en pensez quoi ?

1 – https://www.nature.com/articles/s42256-022-00465-9