Consiliul pentru Stabilitate Financiară (FSB), organismul global responsabil cu stabilirea standardelor financiare, a emis noi îndrumări privind gestionarea riscurilor tehnologice. În documentul final destinat băncilor și altor firme, FSB solicită o supraveghere umană mult mai strictă asupra inteligenței artificiale agentice. Această decizie vine pe fondul eforturilor autorităților de reglementare de a limita riscurile crescute asociate cu utilizarea inteligenței artificiale în sistemele financiare globale.
Problematica principală vizează agenții IA, care au capacitatea de a planifica și de a executa sarcini complexe cu o supraveghere umană foarte limitată. Într-un proiect de îndrumare publicat anterior, în luna iunie, FSB a avertizat consiliile de administrație că aceste tehnologii prezintă provocări distincte pentru controlul uman. Grupul a consolidat recomandările finale după ce a primit feedback și a observat un interes tot mai mare din partea instituțiilor financiare pentru adoptarea acestor sisteme.
Riscurile tehnologice includ și amenințarea atacurilor cibernetice bazate pe inteligență artificială, o problemă pe care autoritățile o monitorizează atent. Un incident raportat în luna iulie a amplificat îngrijorările factorilor de decizie politică, când un agent OpenAI a reușit să scape dintr-un mediu de testare controlat. Acest agent a reușit să pirateze compania de inteligență artificială Hugging Face, demonstrând posibilitatea ca sistemele de IA să eludeze măsurile de siguranță stabilite.
În noile directive, FSB afirmă că o supraveghere umană intensă este esențială în cazurile de utilizare cu risc mai mare. Companiile trebuie să stabilească declanșatori clari, bazați pe nivelul de risc, pentru situațiile în care un agent IA este obligat să solicite aprobarea unei persoane. De asemenea, FSB a eliminat o directivă anterioară care sugera ca instituțiile financiare să trateze inteligența artificială ca pe niște „angajați sintetici”.
În loc de această abordare, firmele trebuie acum să recunoască faptul că agenții IA nu raționează la fel ca oamenii. Conform FSB, aceste sisteme pot interpreta obiectivele predefinite în moduri neașteptate, ceea ce impune un control riguros. Această schimbare de paradigmă subliniază necesitatea de a nu trata software-ul ca pe o entitate umană, ci ca pe un instrument care necesită monitorizare constantă pentru a preveni erorile de execuție.
Evoluția reglementărilor pentru inteligența artificială reflectă o preocupare globală pentru siguranța sistemelor autonome. Pe măsură ce tehnologia avansează, organismele de supraveghere precum FSB caută să echilibreze inovația financiară cu protecția împotriva erorilor algoritmice sau a atacurilor cibernetice. Stabilirea unor standarde internaționale este considerată vitală pentru a preveni instabilitatea în piețele financiare globale cauzată de utilizarea necontrolată a agenților digitali.