Președintele american, Donald Trump, și directorii unora dintre cele mai mari companii de tehnologie și inteligență artificială (AI) au convenit marți, 29 septembrie, la Casa Albă, asupra unui set de măsuri voluntare pentru controlul și siguranța modelelor AI. Acordul prevede controale interne mai stricte și verificări realizate de auditori independenți, pe fondul avertismentelor privind riscurile dezvoltării rapide a inteligenței artificiale.
Documentul, intitulat „Acordul Casei Albe privind superinteligența: angajamente comune privind responsabilitatea pentru modelele de ultimă generație”, prevede că fiecare companie este responsabilă pentru dezvoltarea sigură a propriilor tehnologii și trebuie să dispună de procese interne solide pentru controlul modelelor.
Printre domeniile vizate se numără securitatea cibernetică, biosecuritatea și riscurile chimice. Companiile s-au angajat, de asemenea, să se asigure că modelele lor nu accesează sau nu „sparg” în mod neintenționat sisteme tehnice.
O componentă importantă a acordului este verificarea modelelor de către „auditori independenți”, care ar urma să evalueze dacă sistemele AI funcționează în limitele și în modul prevăzut de dezvoltatorii lor. Companiile au convenit și să se consulte periodic în privința siguranței sistemelor.
Acordul nu are caracter obligatoriu din punct de vedere juridic. Trump l-a descris însă drept un fel de „constituție” pentru industria AI și a susținut autoreglementarea sectorului. Potrivit Reuters, documentul lasă deschisă și posibilitatea ca unele dintre aceste măsuri să fie ulterior transformate în legi sau reglementări.
Printre semnatarii documentului, alături de Trump, se numără Sundar Pichai (Google), Dario Amodei (Anthropic), Mark Zuckerberg (Meta), Greg Brockman (OpenAI), Elon Musk (xAI) și Jensen Huang (Nvidia).
La întâlnirea de la Casa Albă au participat aproximativ douăzeci de reprezentanți ai industriei tehnologice. Printre aceștia s-au numărat și șeful Microsoft, Satya Nadella, și fondatorul Amazon, Jeff Bezos.
- Te-ar putea interesa și: Un fost redactor-șef al Sputnik Moldova ar fi folosit Claude pentru a fabrica informații despre Maia Sandu
Tot marți, Trump a semnat un ordin executiv prin care termenul „inteligență artificială” urmează să fie înlocuit cu „superinteligență” în documentele oficiale ale instituțiilor din executivul american, potrivit „Vocii Americii”. Trump a spus că noua denumire reflectă amploarea și potențialul tehnologiei.
Președintele american a prezentat în aceeași zi și America.gov, un chatbot bazat pe inteligență artificială menit să-i ajute pe americani să găsească informații despre serviciile guvernamentale. „Nu voi frâna niciodată dezvoltarea unei tehnologii care se va dovedi mai importantă decât revoluția industrială”, a declarat Trump la prezentare.
Întâlnirea de la Casa Albă are loc într-un moment în care dezvoltarea rapidă a modelelor de inteligență artificială provoacă tot mai multe dezbateri privind siguranța acestora. Reuters relata marți că cercetători actuali și foști cercetători de la OpenAI și Google DeepMind au avertizat că ritmul dezvoltării sistemelor capabile să-și îmbunătățească propriile capacități poate depăși măsurile de siguranță adoptate de companii.
În paralel, OpenAI a amânat lansarea celui mai nou model al său după ce cercetătorii companiei au ridicat preocupări privind siguranța acestuia. Avertismentele din industrie includ riscuri legate de securitatea cibernetică, utilizarea AI în dezvoltarea unor arme biologice și, în scenarii extreme, riscuri existențiale pentru oameni.
Unii politicieni americani cer, în schimb, măsuri adoptate la nivelul statului. Liderul democraților din Camera Reprezentanților, Hakeem Jeffries, a declarat luni pentru CNBC că parlamentarii trebuie să acționeze „decisiv și responsabil” în privința siguranței inteligenței artificiale. Președintele republican al Camerei Reprezentanților, Mike Johnson, care a participat la întâlnirea de la Casa Albă, a spus că firmele ar putea adopta voluntar măsuri suplimentare de control, inclusiv prin evaluări realizate de auditori externi.
📰 Europa Liberă Moldova este și pe Google News. Abonează-te.