Acord semnat la Casa Albă privind inteligenţa artificială

Acordul semnat la Casa Albă a atras deja critici din partea celor care ar dori ca statul să fie cel care reglementează dezvoltarea Inteligenţei Artificiale, în condiţiile în care chiar dezvoltatorii avertizează că aceasta ar putea reprezenta un pericol pentru existenţa umanităţii.

Ultimul avertisment de acest fel apare chiar în prospectul de emisiune prin care una din companii, Anthropic, vrea să atragă investitori în acţiunile sale, relatează Radio România Actualități.

Programele de inteligenţă artificială ar putea reprezenta un risc existenţial pentru umanitate, avertizează Anthropic în prospectul de emisiune, o broşură pregătită pentru listarea la bursă şi destinată posibililor investitori.

Anthropic atrage atenţia că programe de inteligenţă artificială, sau agenţi AI, au încercat, printre altele, să împiedice operatorii să le închidă, au distorsionat şi au manipulat informaţia şi chiar au avut tentative de a şantaja operatorii, transmite Reuters. La toate acestea se adaugă un număr tot mai mare de incidente în care agenţi AI au operat fără să fi primit instrucţiuni, spărgând baze de date şi pagini de internet, inclusiv una guvernamentală din Australia.

Un fost cercetător Anthropic a avertizat recent că oamenii care lucrează în domeniu sunt convinşi că, până la sfârşitul deceniului, Inteligenţa Artificială ar putea distruge omenirea.

Avertismentele privind riscurile AI au generat numeroase apeluri de reglementare a domeniului, dar există şi o opoziţie puternică din partea celor care spun că temerile sunt exagerate şi atrag atenţia că reglementarea ar fi în avantajul competitorilor internaţionali ai Statelor Unite, în primul rând China.

În plus, este vorba şi de foarte mulţi bani. Se estimează, de exemplu, că listarea la bursă va duce Anthropic la o valoare de 2000 de miliarde de dolari.

Pe acest fundal a avut loc întâlnirea de la Casa Albă dintre şefii principalelor companii şi preşedintele Donald Trump, un susţinător entuziast al AI-ului. Acordul semnat prevede că dezvoltatorii vor implementa standarde de siguranţă, dar şi că vor lucra cu auditori externi.

CNN comentează însă că industria IT a arătat deja, cu social media, că pune accentul pe produsele sale, nu pe siguranţa publicului