Cercetători de renume din cadrul companiilor OpenAI și Anthropic au lansat un apel public pentru încetinirea dezvoltării inteligenței artificiale. Aceștia avertizează că sistemele avansate ar putea deveni capabile să își accelereze singure progresul, generând riscuri catastrofale. Situația a devenit critică după ce Jacob Coxon, un fost angajat Anthropic, a anunțat demisia, acuzând companiile că pun în pericol viața oamenilor prin lipsa de prudență în dezvoltarea modelelor de AI.
Îngrijorările sunt legate de conceptul de auto-îmbunătățire recursivă, procesul prin care sistemele AI pot contribui direct la îmbunătățirea propriilor capacități tehnologice. Jasmine Wang, cercetătoare la OpenAI, a subliniat pericolul imens al unei creșteri accelerate în acest sens. Totodată, Anna Wang de la Anthropic a menționat că în prezent nu există un plan științific viabil pentru a gestiona riscurile generate de o inteligență artificială capabilă de auto-îmbunătățire.
Evenimentul a generat și temeri privind un scenariu de extincție a umanității, o probabilitate estimată de Evan Hubinger, responsabil pentru alinierea AI la Anthropic, la peste 10%. Samuel Marks, un alt cercetător de la Anthropic, a confirmat că experții din industrie sunt îngrijorați de posibilitatea unor rezultate grave. Această viziune pesimistă este susținută și de Julie Steele, membră a echipei tehnice de la OpenAI, care a solicitat public un ritm de dezvoltare mai lent.
Inclusiv Jakub Pachocki, cercetătorul-șef de la OpenAI, a avertizat asupra salturilor de performanță care vor apărea în viitorul apropiat. El a exprimat preocuparea că nicio entitate nu este pregătită pentru consecințele unei creșteri rapide și continue a inteligenței mașinilor. Această lipsă de pregătire este considerată extrem de periculoasă, deoarece sistemele ar putea participa tot mai mult la propria dezvoltare, scăzând controlul uman asupra tehnologiei.
Presiunea politică pentru reglementare a ajuns și în Washington, unde au fost propuse inițiative precum FRONTIER Act sau Ban Artificial Superintelligence Act. În iulie, aproximativ 1.400 de cercetători din companii precum Meta, Google DeepMind, OpenAI și Anthropic au semnat o scrisoare deschisă către guvernul SUA. Aceștia cer crearea unor instrumente care să permită controlul deliberat asupra ritmului de dezvoltare a sistemelor AI de ultimă generație.
Discuțiile despre siguranța AI au devenit un subiect de intensă dezbatere politică, afectând și planurile de listare la bursă ale unor companii de tehnologie. În timp ce companiile de profil încearcă să implementeze măsuri de siguranță, reprezentanții politicii americane, precum Lori Trahan, cer intervenția legislativă. Această tensiune reflectă o perioadă de incertitudine globală privind capacitatea societății de a gestionă tehnologii care pot depăși rapid controlul uman direct.