OpenAI observă un număr tot mai mare de grupuri chineze care utilizează tehnologia sa de inteligență artificială pentru operațiuni secrete, după cum a descris producătorul ChatGPT într-un raport publicat joi.

OpenAI descoperă grupuri chineze care utilizează ChatGPT în scopuri secrete

Deși amploarea și tacticile utilizate de aceste grupuri s-au extins, operațiunile detectate au fost, în general, de mică amploare și au vizat un public limitat, a declarat startup-ul cu sediul în San Francisco.

De când ChatGPT a apărut pe scena tehnologică la sfârșitul anului 2022, au existat îngrijorări cu privire la potențialele consecințe ale tehnologiei IA generative, care poate produce rapid și ușor texte, imagini și audio similare celor umane.

OpenAI publică în mod regulat rapoarte privind activitățile rău intenționate pe care le detectează pe platforma sa cum ar fi crearea și depanarea programelor malware sau generarea de conținut fals pentru site-uri web și platforme de social media.

Într-un exemplu, OpenAI a interzis conturile ChatGPT care au generat postări pe rețelele sociale pe teme politice și geopolitice relevante pentru China inclusiv critici la adresa unui joc video centrat pe Taiwan, acuzații false la adresa unui activist pakistanez și conținut legat de închiderea USAID.

„Unele postări au criticat, de asemenea, tarifele vamale extinse impuse de președintele american Donald Trump generând mesaje precum: «Tarifele fac ca bunurile importate să fie absurd de scumpe, iar guvernul aruncă bani pe ajutoare externe. Cine se mai presupune că trebuie să mănânce?»”

Într-un alt exemplu, actori cibernetici cu legături cu China au utilizat inteligența artificială pentru a sprijini diverse faze ale operațiunilor lor informatice inclusiv cercetarea surselor deschise, modificarea scripturilor, depanarea configurațiilor de sistem și dezvoltarea de instrumente pentru forțarea parolelor prin atacuri de tip „brute force” și automatizarea activităților pe rețelele sociale.

Un al treilea exemplu descoperit de OpenAI a fost o operațiune de influențare originară din China care a generat conținut polarizat pe rețelele sociale susținând ambele părți ale unor subiecte controversate din discursul politic american inclusiv texte și imagini de profil generate de AI.

Ministerul de Externe al Chinei nu a răspuns imediat la solicitarea Reuters de a comenta constatările OpenAI.

OpenAI și-a consolidat poziția ca una dintre cele mai valoroase companii private din lume după ce a anunțat o rundă de finanțare de 40 de miliarde de dolari evaluând compania la 300 de miliarde de dolari.