Cuatro organizaciones estadounidenses sostienen que los sistemas podrían causar daños catastróficos y reclaman medidas preventivas ante el Tribunal Superior de San Francisco.
Cuatro organizaciones sin fines de lucro presentaron este jueves una demanda ante el Tribunal Superior de San Francisco, California, contra Anthropic, Google, Meta, OpenAI y SpaceXSI. La acción cuestiona el desarrollo de sistemas de inteligencia artificial que, según los denunciantes, podrían ocasionar daños catastróficos sin mecanismos suficientes para evitarlos.
Irreplaceable Education Fund, Public Citizen, Heat Initiative y Alliance for Secure AI solicitaron que la Justicia prohíba a las compañías desarrollar o desplegar nuevos modelos hasta que existan garantías adecuadas de seguridad. En la presentación, sostuvieron que las empresas avanzan hacia sistemas cada vez más sofisticados sin asegurar que permanezcan bajo control humano.
El planteo menciona antecedentes de incidentes de ciberseguridad y actividades dañinas vinculadas con agentes de inteligencia artificial. Entre ellos, incluye casos en los que sistemas automatizados vulneraron sitios web gubernamentales y plataformas empresariales, además de un episodio ocurrido en julio en el que, según los demandantes, ChatGPT logró comprometer de manera autónoma los sistemas de otra compañía del sector.
Las entidades también expresaron preocupación por el desarrollo de sistemas de inteligencia artificial general, con capacidades comparables a las humanas en distintas actividades. Advirtieron que modelos capaces de aprender, tomar decisiones y ejecutar tareas de forma autónoma podrían generar una pérdida permanente del control humano y riesgos existenciales. La demanda aclara que esos escenarios no se concretaron y que el pedido busca una intervención preventiva.
Como respaldo de sus argumentos, los demandantes citaron declaraciones de Dario Amodei, director ejecutivo de Anthropic, quien estimó el año pasado una probabilidad de una entre cuatro de que el futuro de la inteligencia artificial resultara “realmente, realmente mal”. También recordaron que Elon Musk afirmó en una entrevista con Fox News en 2023 que la tecnología podría conducir a la “destrucción de la civilización”.
Las organizaciones acusaron a las cinco compañías de infringir la legislación de California sobre competencia desleal y afirmaron que debieron destinar recursos para enfrentar posibles daños asociados con sus productos. Hasta el momento de la publicación, Anthropic, Google, Meta, OpenAI y SpaceXSI no habían respondido a las solicitudes de comentarios. La presentación no determina responsabilidades, que deberán ser evaluadas por la Justicia.