A fost inventat AI-ul care detectează cu precizie textele realizate de AI

Instrumentele precise de detectare AI (inteligența artificială) sunt necesare pentru a apăra integritatea textelor științifice și a mediului academic. Heather Desaire, chimist la Universitatea din Kansas, care aplică învățarea automată în studiile biomedicale, a dezvoltat un instrument nou capabil să identifice textul științific produs de ChatGPT cu o acuratețe de 99%, scrie Scitechdaily.

„ChatGPT și toți ceilalți generatori de text AI ca acesta alcătuiesc fapte”, a spus Heather Desaire. „În publicarea științifică academică – scrieri despre noi descoperiri și limitele cunoașterii umane – chiar nu ne putem permite să poluăm literatura cu falsuri care sună credibil. Aceste informații false și-ar face inevitabil drum în publicații dacă generatoarele de text AI sunt utilizate în mod obișnuit. Din câte știu, nu există o modalitate sigură de a găsi, într-un mod automat, acele „halucinații” așa cum sunt numite. Odată ce începi să populezi fapte științifice reale cu prostii inventate de AI care sună perfect credibile, acele publicații vor deveni mai puțin de încredere, mai puțin valoroase.”

Heather Desaire a spus că succesul metodei sale de detectare depinde de restrângerea sferei de aplicare a scrierii supuse controlului la scrisul științific de tipul care se găsește în mod obișnuit în reviste revizuite de colegi. Acest lucru îmbunătățește acuratețea față de instrumentele existente de detectare AI, cum ar fi detectorul RoBERTa, care urmăresc să detecteze AI într-o scriere mai generală.

„Puteți construi cu ușurință o metodă de a distinge scrierea umană de cea ChatGPT, care este foarte precisă, având în vedere compromisul că vă limitați la a lua în considerare un anumit grup de oameni care scriu într-un anumit mod”, a spus Desaire. „Detectorii AI existenți sunt de obicei proiectați ca instrumente generale care pot fi utilizate pentru orice tip de scriere. Acestea sunt utile pentru scopul propus, dar pentru orice fel de scris specific, ele nu vor fi la fel de precise ca un instrument construit pentru acel scop specific și restrâns.”

Desaire a mai spus că profesorii universitari, editorii au nevoie de o modalitate precisă de a detecta rezultatele AI prezentate ca lucrări ale unei minți umane.

„Când începi să te gândești la „plagiatul AI”, o precizie de 90% nu este suficient de bună”, a spus Desaire. „Nu poți să acuzi oamenii că folosesc în mod secret AI și să te înșeli frecvent în acele acuzații – acuratețea este esențială. Dar pentru a obține acuratețe, compromisul este cel mai adesea generalizarea.”

„Am folosit un set de date mult mai mic și mult mai multă intervenție umană pentru a identifica diferențele cheie pe care să se concentreze detectorul nostru”, a spus Desaire. „Ne-am folosit creierul uman pentru a găsi diferențe utile în seturile de documente, nu ne-am bazat pe strategiile de diferențiere a oamenilor și a inteligenței artificiale care fuseseră dezvoltate anterior.”

Grupul și-a construit abordarea fără a se baza pe strategiile din abordările anterioare ale detectării AI. Tehnica rezultată are elemente complet unice în domeniul detectării textului AI.

„Nu am pus textul AI în centrul atenției atunci când dezvoltăm funcțiile cheie”, a spus ea. „Am pus textul uman în centrul atenției. Scrierea AI, cel puțin din ChatGPT, este o scriere umană generalizată extrasă dintr-o varietate de surse.

„Scrierea oamenilor de știință nu este o scriere umană generalizată. Este scrisul oamenilor de știință.”

Desaire a făcut codul de detectare AI al echipei sale pe deplin accesibil cercetătorilor interesați să-l construiască. Ea speră că alții vor realiza că AI și detectarea AI sunt la îndemâna oamenilor, chiar dacă nu sunt informaticieni, programatori de computere și chiar dacă nu au legătură cu acest domeniu.

Ultimele Articole

Articole similare

Parteneri