La fausse fausse image générée par l'AI de l'explosion du Pentagone devient virale sur Twitter

Récemment, une fausse image générée par l'AI d'une explosion violente au Pentagone à Washington, D.C., est devenue virale sur Twitter.L'incident a révélé le vrai problème avec la vérification Blue Twitter payante de Musk.

La fausse image est devenue virale en ligne peu de temps après sa publication sur la plate-forme de messagerie sociale tard le matin du 22 mai, et n'a été réprimée que lorsque les responsables du gouvernement américain se sont manifestés, confirmant et dénonçant l'image comme rien de plus qu'un canular.

L'affaire a été controversée après que Blue Check marks est apparue à côté des noms de profil des médias d'État russes et un faux compte de News Bloomberg.

Vers 10 h HE, une photo d'une pelouse pentagone flamboyante avec la légende "grande explosion près du complexe du Pentagone à Washington D.C. - Rapport initial."a commencé à être largement republié et à se propager rapidement.

Selon Forbes, un porte-parole du ministère américain de la Défense a déclaré que la photo était "une désinformation.

À 10 h 27 HE, Arlington Fire et EMS ont également dénoncé la photo comme un faux sur Twitter.Le compte Twitter du département a publié que @PFPAOfficial et ACFD étaient au courant des rapports de médias sociaux circulant en ligne d'une explosion près du Pentagone, mais qu'aucune explosion ne s'était produite sur ou près de la réserve du Pentagone qui présenterait un danger ou un risque immédiat pour le public.

Les experts OSINT ont examiné en profondeur les images en quelques minutes et ont souligné les écarts qui ont prouvé que les images étaient en effet de fausses images générées par l'IA.

Nick Walters, un enquêteur numérique chez Bellingcat, a déclaré qu'il serait très difficile, voire impossible, de simuler un tel événement.Cela peut être facilement déterminé en regardant l'avant du bâtiment dans l'image et la façon dont la clôture se fond dans la barrière de la foule.

Nick Walters dit que pour une nouvelle si importante, elle n'est pas aussi crédible sans d'autres photos ou vidéos de témoins oculaires de première main publiés en ligne.

De plus, Nick Walters a tweeté que les événements physiques les plus extrêmes (bombardements, attaques terroristes, grands combats) dans des zones densément peuplées créent des ondulations numériques reconnaissables.

Les fausses images d'IA, bien que amusantes pour les créateurs et les téléspectateurs, ont été l'une des plus grandes préoccupations pour les entités gouvernantes et les experts de l'IA depuis la sortie de Chatgpt en novembre dernier.

Plus tôt en mai, un homme a été arrêté en Chine et risque jusqu'à 10 ans de prison pour avoir utilisé une technologie profonde pour diffuser de fausses nouvelles en ligne.L'homme est accusé d'utiliser Chatgpt pour créer une fausse vidéo d'intelligence artificielle qui a représenté une collision de train mortelle, puis de la publier sur plusieurs sites de médias sociaux.

Avec les modèles d'intelligence artificielle évoluant ces dernières années, les experts disent que la désinformation sur les réseaux sociaux est très préoccupante, en particulier avec le cycle électoral présidentiel américain de 2024 à commencer.

Andy Campbell, rédacteur en chef du Huffington Post, a fait référence au PDG de Twitter de la lutte que Musk avait avec les utilisateurs de Twitter au sujet de sa vérification Blue Twitter lorsqu'il a repris l'entreprise l'automne dernier.

Auparavant, une société de médias sociaux avait pu prouver la légitimité d'une organisation ou d'une personne avant que son compte ne soit accordé à la coche bleue de Twitter, mais maintenant il est accordé gratuitement à tous ceux qui souhaitent payer 8 $ par mois.

La situation controversée sur cette question a atteint son apogée en mars, lorsque de nombreuses célébrités et journalistes autrefois certifiés ont refusé de payer un service qui était autrefois gratuit et a déclaré qu'ils pourraient faire retirer cette coche bleue certifiée de leurs comptes.

Andy Campbell dit que le danger de ce système de rémunération de rémunération à coche bleu est que si un compte tweete une fausse photo générée par l'AI-AI sur l'explosion du Pentagone, mais avec l'authentification, à première vue, le compte ressemble à un tweet légitime de Bloomberg.

Ce faux compte de News Bloomberg a été désactivé par Twitter, mais on ne sait toujours pas d'où vient la fausse photo du Pentagone.Bien que les fausses nouvelles de la bombe du Pentagone soient devenues virales brièvement, la rumeur a toujours entraîné une grande baisse de la Bourse de New York lundi.