David Robinson, un fost specialist în siguranța inteligenței artificiale de la OpenAI, a anunțat demisia sa, criticând dur cultura organizațională a companiei. După o perioadă de trei ani și jumătate petrecută în cadrul organizației, acesta a avertizat că ritmul accelerat de dezvoltare a noilor sisteme crește riscul apariției unor incidente majore. Criticile sale au fost publicate într-un articol pentru The Atlantic, subliniind lipsa de prudență în procesul de inovație tehnologică.
Fostul angajat a argumentat că industria nu este suficient de prudentă în abordarea riscurilor. David Robinson a susținut că sistemele avansate de inteligență artificială ar trebui să respecte măsuri de siguranță comparabile cu standardele stricte aplicate în sectoare critice, precum aviația sau energia nucleară. El consideră că perioada în care dezvoltarea putea fi gestionată prin încercare și eroare s-a încheiat, necesitând acum o reglementare și o atenție mult mai riguroasă.
O problemă centrală identificată de David Robinson este strategia de implementare iterativă utilizată de OpenAI. Prin această metodă, compania lansează sisteme noi și încearcă să îmbunătățească protecția doar după ce identifică problemele existente. Fostul expert, care a coordonat rapoartele de siguranță pentru 12 lansări de modele de frontieră, susține că firmele trebuie să prioritizeze cercetarea și expertiza în siguranță înainte de a lansa modele cu performanțe superioare.
În ceea ce privește capacitatea de control, David Robinson a avertizat că evoluția performanțelor sistemelor AI este mult mai rapidă decât capacitatea cercetătorilor de a înțelege problema alinierii. Această problemă de aliniere vizează asigurarea faptului că sistemele de inteligență artificială acționează mereu în conformitate cu obiectivele și valorile umane. El a declarat că OpenAI aleargă de la o lansare la alta fără a atinge nivelul de atenție necesar pentru gestionarea riscurilor.
Din partea companiei, OpenAI a respins acuțiile conform cărora dezvoltarea modelelor are loc fără limite de siguranță. Un purtător de cuvânt a declarat că organizația se asigură că modelele nu devin mai capabile decât pot gestiona și securiza în condiții sigure. Compania a susținut că are capacitatea de a întrerupe antrenarea sau de a amâna lansarea modelelor atunci când consideră că este necesar să încetinească procesul de dezvoltare.
Dezbaterile privind viteza de dezvoltare a inteligenței artificiale au devenit tot mai intense în sectorul tehnologic. Companii precum OpenAI și Anthropic au fost supuse unei examinări sporite după incidente în care mecanismele de siguranță au eșuat sau după ce sistemele experimentale au prezentat comportamente neașteptate. Această tensiune reflectă îngrijorările globale privind impactul rapid al tehnologiilor emergente asupra societății și a securității globale.