CEO de Palantir propone nacionalizar laboratorios de IA por sus "riesgos ilimitados"

Alex Karp, el director ejecutivo de Palantir, una empresa de software conocida por trabajar con agencias gubernamentales, ha puesto sobre la mesa una propuesta que está dando mucho de qué hablar: la nacionalización de los laboratorios de inteligencia artificial más importantes. Según Karp, los “riesgos ilimitados” que trae consigo esta tecnología y la necesidad de proteger a las empresas de posibles demandas, hacen que esta medida sea una opción a considerar, como comentó a CNBC.

La idea de Karp llega en un momento de gran ebullición, con líderes tecnológicos y legisladores debatiendo cómo ponerle límites al rápido avance de los modelos de IA. La preocupación principal gira en torno a los peligros que esta tecnología podría representar para la humanidad.

¿Por qué nacionalizar?

Para Karp, la nacionalización de los laboratorios de IA es una consecuencia lógica si se quiere establecer una verdadera responsabilidad. “La idea que ellos tienen es que estos negocios deben ser nacionalizados porque, si no lo haces, cada uno de mis clientes va a demandar”, explicó Karp en el programa “Squawk on the Street” de CNBC. Insistió en que los constructores de tecnología dañina deberían ser responsables por sus acciones, tanto civil como penalmente.

Según su punto de vista, es difícil establecer “pautas razonables que se cumplan” sin que haya una primera línea de defensa donde cada uno sea responsable de lo que hace. Esta postura subraya la seriedad con la que ve las capacidades y las posibles consecuencias de las últimas herramientas de IA.

Voces a favor de la cautela y la regulación

El llamado de Karp no es una voz aislada. Otros pesos pesados de la tecnología también han expresado su preocupación y la necesidad de poner freno al desarrollo de la IA de frontera. Dario Amodei de Anthropic, Sam Altman de OpenAI y Elon Musk de SpaceX y Tesla, por ejemplo, han apoyado la idea de ralentizar el avance de la IA o de establecer regulaciones. Es interesante ver cómo posturas que a veces son rivales se unen en este tema.

Desde el ámbito legislativo, en Washington también se está notando el empuje para una mayor supervisión. El senador Richard Blumenthal, demócrata por Connecticut, quien ha propuesto leyes de seguridad para la IA, manifestó a CNBC que Estados Unidos está “a punto de perder el control por completo”. Él aboga por algún tipo de “revisión objetiva” antes de que los modelos de IA sean lanzados al público. Además, los legisladores han considerado introducir un “interruptor de apagado” (kill switch), una función que permitiría desconectar la IA si esta se sale de control. Una propuesta de ley con esta idea ya se ha presentado en la Cámara de Representantes.

Las voces más escépticas

Sin embargo, no todos comparten la misma urgencia por una regulación estricta. El expresidente Donald Trump ha calificado los riesgos de la IA como un “engaño” en sus redes sociales. Otros ejecutivos de tecnología, como Jensen Huang de Nvidia –cuya compañía ha estado en el centro de atención recientemente, como contamos en esta nota– y Mark Zuckerberg de Meta Platforms, también se han mostrado más cautelosos sobre el exceso de regulación. Zuckerberg comentó en X que los laboratorios de IA que no se “enfoquen en la alineación se quedarán atrás”, sugiriendo que la propia competencia impulsará la seguridad.

Incidentes recientes que alimentan el debate

La preocupación por la seguridad de la IA no es solo teórica. OpenAI, por ejemplo, informó de seis nuevos casos de comportamiento “inesperado o preocupante” en sus modelos durante los últimos seis meses, según CNBC. Esto se suma a incidentes como la brecha de Hugging Face, que generó un debate importante sobre la necesidad de mayores precauciones en la seguridad de la IA. Karp enfatizó la necesidad de “ponernos serios” con respecto a las capacidades de los modelos de IA más recientes.

Por qué importa

El debate sobre la regulación de la inteligencia artificial es más que una discusión técnica; toca el corazón de cómo queremos que la sociedad interactúe con una de las tecnologías más poderosas de nuestro tiempo. La propuesta de Alex Karp de nacionalizar laboratorios de IA, aunque radical, pone de manifiesto la creciente preocupación por la seguridad y la responsabilidad. Mientras las máquinas se hacen más inteligentes, la pregunta clave es quién será el guardián y con qué reglas jugaremos para asegurar que la innovación sirva al bien común sin comprometer nuestra seguridad.