La notícia de la investigació es produeix enmig d'una preocupació creixent per casos d'agents de la IA que han actuat per iniciativa pròpia i de la crida d'alts comandaments d'aquestes empreses a desaccelerar el desenvolupament dels seus propis models d'IA per a evitar que s'isquen de control.

Es desconeixen detalls de la investigació de la *FTC, però funcionaris d'alta jerarquia de l'agència, que usualment indaga en potencials pràctiques enganyoses i fraudulentes contra els consumidors, van dir a mitjans com *The Washington Post i The New York Times que el pla inclou sol·licitar informació a les empreses i demanar testimoniatge als seus executius.

Els reportes van precisar que la *FTC va llançar la seua investigació abans que *OpenAI revelara que models seus van provocar al juliol passat un atac inèdit contra *Hugging *Face, una plataforma de models oberts d'IA. En eixe moment, es va fer públic que encara que els desenvolupadors de OpenAI provaven les seues noves creacions en un entorn aïllat, els models van saber eixir del mateix i van atacar Hugging Face.

El sentit d'urgència de la FTC per indagar en els potencials riscos de la IA va augmentar després que un reporte llançara més llum sobre eixe incident. L'agència Reuters va informar aquest mes que els agents de OpenAI van accedir a comptes d'usuaris de Hugging*Face i van examinar pel seu compte vulnerabilitats del lloc al maig, és a dir dos mesos abans que es va fer públic l'atac.

Enmig de l'escalada d'incidents, OpenAI va anunciar aquesta mateixa setmana que retardaria el llançament del seu últim model, GPT-6.1 Astra, en considerar que ara com ara no compleix amb els requisits de seguretat.

El cap de la FTC, Andrew Ferguson, va afirmar la setmana passada en un esdeveniment que s'ha d'avaluar primer si les normes existents són suficients per a abordar les preocupacions entorn de la IA. Eixa agència té autoritat per a demandar a companyies que incórreguen en pràctiques enganyoses o fraudulentes contra els consumidors.

Ferguson també va descriure com a “sospitosos” els recents anomenats a la regulació per part d'executius del sector. “No hi ha forma més senzilla (...) per a aïllar-se de la competència que fer que Washington se'ls sume i llevant un mur al voltant de les seues tecnologies”, va dir Ferguson. “Tenim eines per a protegir els consumidors. (...) Però això no significa que no anem a concloure en algun punt que necessitem més salvaguardes”, va agregar.

Pesos pesants del sector de la IA van esmorzar el dimarts amb el president Donald Trump, que ha advocat per l'autoregulació de les companyies per a evitar que els seus agents actuen de manera autònoma i ataquen llocs d'internet i sistemes d'altres empreses i governs.

“Mai frenaré el creixement de la tecnologia, que serà més gran que la Revolució Industrial. Per això, diuen que la *superinteligencia és més gran que la Revolució Industrial, molt més gran que internet, ni tan sols se li acosta, i ho veiem, i no podem frenar-la. I portem un gran avantatge”, va dir el mandatari abans de la trobada des del Despatx Oval.

“Ara mateix estem per davant de la Xina i de tots els altres, i vull que continue sent així”, va agregar durant la presentació d'un agent digital per a ajudar als ciutadans amb els seus tràmits amb l'Administració, creat amb eines d'IA.

Dario Amodei, director executiu de Anthropic; Greg Brockman, president de OpenAI; Jensen Huang de Nvidia; i Alex Karp de Palantir, van ser alguns dels convidats que van menjar després del encuetro amb el president.

Consulta la notícia original ACI