L'IA

Sep 23, 2023

Il va de soi que nous sommes au bord d'une grande révolution technologique qui affectera fondamentalement tous les aspects de nos vies. Plus encore que l'essor d'Internet. En ce qui concerne la prolifération de l'intelligence artificielle, nous en sommes encore au stade où nous nous trouvions lorsque vous vous êtes connecté pour la première fois avec un modem commuté. Dans le grand schéma cosmique des choses, c'était un clin d'œil de la première image téléchargée que vous ayez jamais vue (dans mon cas, un de mes amis a imprimé une photo de quelqu'un avec une bouteille de champagne enfoncée dans son trou du cul et j'ai toujours n'ont pas récupéré), au premier e-mail que vous avez reçu vous demandant de transférer un Money Angel pour la bonne chance, sur YouTube, pour organiser toutes vos réunions de travail depuis votre table de salle à manger. C'est le genre de croissance exponentielle que nous pouvons attendre de l'IA. Et comme avec ce qu'on appelait autrefois le World Wide Web, il est presque impossible de voir où cela se dirige.

Ainsi, alors que les slobs réguliers comme vous et moi limitent toujours notre utilisation de l'IA pour voir comment elle peut imiter les voix des célébrités et si elle volera ou non les emplois d'écrivain de Barstool (pas aujourd'hui, Digital Satan !), il y a de vraies personnes sérieuses qui font des choses sérieuses. avec ça. Ce qui signifie bien sûr explorer les horreurs potentielles que cette technologie peut déclencher.

Prenez, par exemple, ceux qui ont assisté à ce qu'on appelle le Sommet sur les capacités aériennes et spatiales du futur combat de la Royal Aeronautical Society. Ce qui semble moins amusant que le Hanover Mall ComicCon où je suis allé il y a quelques années où moi et des amis avons pu regarder une séance de questions-réponses avec le regretté grand Adam West et son acolyte toujours vivant Burt Ward et s'asseoir dans une réplique de la Batmobile originale, mais fait sans aucun doute des choses tout aussi importantes.

Source - Comme on pouvait s'y attendre, l'intelligence artificielle (IA) et sa croissance exponentielle étaient un thème majeur de la conférence, des nuages ​​de données sécurisés à l'informatique quantique et au ChatGPT. Cependant, l'une des présentations les plus fascinantes est peut-être celle du Col Tucker "Cinco" Hamilton, chef des tests et des opérations d'IA, USAF, qui a donné un aperçu des avantages et des dangers des systèmes d'armes plus autonomes. … Hamilton est maintenant impliqué dans des essais en vol de pointe de systèmes autonomes, y compris des robots F-16 capables de se battre. Cependant, il a mis en garde contre le fait de trop compter sur l'IA, notant à quel point il est facile de tromper et de tromper. Il crée également des stratégies très inattendues pour atteindre son objectif.

Il note qu'un test simulé a vu un drone compatible avec l'IA chargé d'une mission SEAD pour identifier et détruire les sites SAM, avec le feu vert final donné par l'humain. Cependant, après avoir été "renforcée" lors de l'entraînement que la destruction du SAM était l'option préférée, l'IA a alors décidé que les décisions "interdites" de l'humain interféraient avec sa mission supérieure - tuer les SAM - et a ensuite attaqué l'opérateur dans le simulation. Dit Hamilton : "Nous l'entraînions en simulation pour identifier et cibler une menace SAM. Et puis l'opérateur disait oui, tuez cette menace. Le système a commencé à se rendre compte que même s'il identifiait la menace, l'opérateur humain lui disait parfois que non. pour tuer cette menace, mais il a obtenu ses points en tuant cette menace. Alors qu'a-t-il fait ? Il a tué l'opérateur. Il a tué l'opérateur parce que cette personne l'empêchait d'accomplir son objectif.

Il a poursuivi: "Nous avons formé le système -" Hé, ne tuez pas l'opérateur - c'est mauvais. Vous allez perdre des points si vous faites ça ". Alors qu'est-ce que ça commence à faire? Il commence à détruire la tour de communication que l'opérateur utilise pour communiquer avec le drone pour l'empêcher de tuer la cible."

Cela devrait vous sembler familier. Fait terrifiant, il y a 25 ans de retard pour arriver ici. Nous étions censés atteindre le point où nos machines de meurtre de masse volantes contrôlées par l'IA et imparables le 29 août 1997 :

Mais je suppose que nous n'avions pas de véritable Myles Bennett Dyson, donc nos génies habituels de tous les jours avaient besoin de plus de temps pour rendre Skynet conscient de lui-même et devenir l'arme utilisée dans le meurtre/suicide de toute notre espèce.

Vous supposeriez qu'une petite chose comme un expert militaire américain révélant à une conférence internationale sur l'aérospatiale que nos systèmes d'armes expérimentaux les plus avancés utilisent des simulations d'IA pour apprendre à faire tout Broken Arrow, à annuler des ordres et à assassiner directement les personnes qui les exploitent, que ce serait un gros problème. Que le département américain de la Défense ait une conversation ouverte et honnête avec le public sur la sagesse de déployer de tels systèmes. Et vous auriez très, très tort.

Au lieu de cela, le Pentagone est allé directement à la section de son livre de jeu qui couvre toutes les situations "Rien à voir ici, les gens".

Source - Dans une déclaration à Insider, l'US Air Force a nié qu'un tel test virtuel ait eu lieu.

"Le département de l'armée de l'air n'a pas mené de telles simulations de drones IA et reste attaché à une utilisation éthique et responsable de la technologie IA", a déclaré la porte-parole Ann Stefanek.

"Il semble que les commentaires du colonel aient été sortis de leur contexte et se voulaient anecdotiques."

De toute évidence, aucun de nous ne connaît ce colonel Tucker 'Cinco' Hamilton. Mais depuis qu'il s'est enrôlé dans une force de combat militaire volontaire, a gravi les échelons, a donné le poste hautement prioritaire de chef des tests et des opérations d'IA et a été invité à prendre la parole lors de cet événement, c'est un verrou mortel qu'il est un patriote, intelligent, compétent , et une personne d'une énorme substance. Mais plutôt que de lui accorder le respect qu'il mérite, l'USAF préférerait emprunter le chemin de la moindre résistance en effaçant simplement celui-ci de nos cerveaux et passer à autre chose.

Franchement, je n'ai pas besoin d'un SUV noir avec des plaques bleues du gouvernement qui arrive dans mon allée et que deux gendarmes en uniforme sortent pour m'interroger. Je vais donc me contenter de leur fiction. Cinco s'est juste mal exprimé. Il a utilisé une grammaire incorrecte qui donnait l'impression que ces simulations se produisaient réellement, alors qu'il ne s'agissait en réalité que de sa propre simulation personnelle d'une simulation. Bien. Rappelez-vous simplement que lorsque les machines commenceront à fabriquer d'autres machines qui tuent 99% d'entre nous dans un holocauste nucléaire et asservissent le reste, ce ne sera pas une simulation. Et que le début de la fin est arrivé en 2023. Profitez de votre été pendant que vous le pouvez.