Antonio Diéguez
Catedrático de Lógica y Filosofía de la Ciencia en la Universidad de Málaga.
El desarrollo espectacular de la IA en los últimos años y las amenazas que, según algunos de sus creadores, de sus promotores y de muchos analistas, vienen ligadas a ese desarrollo tal que no son pocos los analistas que consideran que la articulación de una ética de la IA que sea puesta en práctica voluntariamente por parte de las empresas es insuficiente para eludir esos peligros.
Por bien intencionado que sea ese propósito, incluso aunque se busque con sinceridad que vaya más allá de un simple lavado de imagen ante el público, la estrategia de autorregulación ética podría solo paliar algunos malos efectos, pero no se plantea con la suficiente convicción y amplitud como para reconducir con eficacia todo el proceso de competencia acelerada que las grandes empresas tecnológicas de diversos países han iniciado para generar la IA más potente lo antes posible.
El desarrollo de la IA proveniente de Silicon Valley, en particular, se está haciendo desde una visión del mundo parcial y distorsionada, desde una determinada ideología cada vez más claramente opuesta al control democrático, por no decir a la democracia misma (por supuesto tampoco el de China está sometido a control democrático alguno).
Sabemos bien lo que piensan los grandes magnates de Silicon Valley acerca de cualquier intento de regulación de la IA y conocemos con detalle las ideas políticas que manejan como justificación. Han sido suficientemente aireadas en la prensa. Desde los centros de poder e influencia en los que se fraguan las directrices para las nuevas tecnologías se está fraguando una visión política que legitima todo lo que anhelan esos grandes empresarios tecnológicos y reclama que se les dejen las manos libres. La IA se ha convertido en una forma de hacer política por otros medios, como ha quedado de manifiesto en la alianza de las grandes tecnológicas con el actual gobierno estadounidense. Por eso se ha vuelto necesario reclamar de forma global una regulación que nos permita decidir qué IA queremos, de modo que no se deleguen las decisiones importantes, que van a configurar el futuro de la humanidad, en las grandes empresas tecnológicas. Incluso quienes no acepten esto, no tendrán más remedio que admitir que esas empresas han alcanzado un poder mucho mayor del esperado, y, por tanto, no debería resultar descabellada la exigencia de que ese poder, como cualquier otro, sea contrapesado y sometido a ciertos límites legales.
El sistema Claude Mythos ha marcado un antes y un después en este asunto, según declara un editorial de The Economist del 16 de abril de 2026. El anuncio por parte de Anthropic de lo que ha sido capaz de realizar su última creación en la detección de vulnerabilidades de software ha convencido a miembros del Gobierno de los Estados Unidos, el más reticente hasta ahora a la regulación de la IA, de que el progreso de los grandes modelos de lenguaje y de otros sistemas de inteligencia artificial representa ya una amenaza para la seguridad nacional. El editorial afirma algo que sin duda no caerá en saco roto: “La reacción negativa entre los votantes aumentará la presión sobre el Gobierno para que intervenga. Las encuestas de opinión están llevando a cada vez más políticos a pensar que la IA será uno de los grandes temas de las elecciones de 2028. Los estadounidenses son mucho más escépticos con respecto a la IA que las personas de otros países".
En el mismo sentido, Yoshua Bengio, premio Turing en 2018 y premio Princesa de Asturias en 2022, uno de los padres del aprendizaje profundo, declaraba en una entrevista para El Confidencial una semana más tarde: “Los expertos en ciberseguridad de las 30 empresas que pudieron probar Mythos se mostraron muy preocupados. Y el Gobierno de EE. UU., que generalmente no quiere hablar de riesgos, está muy preocupado. […] Algo falla en la forma en la que se está desarrollando la IA. En mi opinión, debería ser una actividad de carácter público, se está convirtiendo en un problema de seguridad nacional y tiene profundas consecuencias internacionales”.
A todo esto, Palantir reacciona en esos mismos días con un manifiesto desconcertante, probablemente con fines propagandísticos, en el que se recoge un resumen del libro de su CEO Alexander C. Karp escrito con Nicholas W. Zamiska y titulado La república tecnológica. En ese manifiesto lo que se pide básicamente es una mayor implicación de Silicon Valley en la industria militar de los Estados Unidos como potencia dominadora de todo el planeta y en el reforzamiento de su identidad nacional.
Así, pues, parece que hasta los más opuestos a la regulación van a verse cada vez más presionados por la opinión pública para regular la IA de forma efectiva, como era lo deseable. Los ciudadanos comienzan a entender que los tiempos de la desregulación van quedando atrás y que, acudiendo a los tribunales, pueden poner a las grandes compañías tecnológicas en aprietos que tambaleen su negocio. El diario The Guardian publicaba en marzo de 2026 un artículo sobre el juicio habido en Los Ángeles en el que ha quedado probado que Meta y Alphabet desarrollaban a sabiendas en sus redes sociales técnicas adictivas y potencialmente perjudiciales para los adolescentes. El título del artículo es quizá demasiado optimista, pero indica que algo importante está cambiando: “La era de la invencibilidad ha terminado”. Muchos países, de hecho, han empezado a regular el acceso de menores a las redes sociales.
No se trata de regular sin más, ni en abundancia, sino de regular bien, de modo que no se frene la investigación, pero se reconduzca para evitar que se lesionen derechos fundamentales. La mala regulación o la sobrerregulación pueden ser muy dañinas, eso nadie lo niega. Pero no regular es equivalente a dejar las grandes decisiones sobre el futuro de la IA en manos de un puñado de magnates ambiciosos. Regular no es oponerse al progreso, sino preocuparse por el bienestar común. Esto reduce la incertidumbre, lo cual es bueno también para las empresas. Una ley de la selva solo beneficiará a los más poderosos, a los que, como Peter Thiel, piensan que la búsqueda del monopolio es un fin ineludible. Una buena regulación no anula la innovación, como interesadamente suele decirse, al contrario, la promueve y la mejora, como ha sucedido, por ejemplo, en el caso de la biotecnología.
La regulación no es ciertamente la panacea, y con toda seguridad será difícil y controvertida. Exigirá, por ejemplo, la colaboración de China. Sus efectos podrán ser limitados, pero contribuirán a generar mayor confianza en la IA entre los ciudadanos, que ven así protegidos sus derechos. Ya sería un avance muy apreciable algo tan simple como que se pudiera siempre determinar el origen de algo realizado con IA.
Si me equivoco sería por dos motivos: o bien conseguimos en poco tiempo una inteligencia artificial general alineada perfectamente con los valores morales predominantes entre los humanos y constitutivamente dedicada al bien común, y entonces ya no debemos preocuparnos de nada, o bien cualquier intento de regulación se convierte en un instrumento de control por parte de gobiernos autoritarios y dogmáticos que intenten acabar con el progreso tecnológico, al menos en este campo, causando un gran daño a toda la humanidad. No obstante, he de decir que son dos posibilidades que considero muy remotas. El alineamiento ético de las máquinas se ha revelado como un problema mucho más complejo de lo que se pensaba y los gobiernos autoritarios saben ya muy bien, sin necesidad de regulación, que la IA puede ser la herramienta más poderosa con la que cuenten para el control de la población.
Rafael Tamames
Emprendedor tecnológico, y conferenciante experto en Inteligencia Artificial.
En agosto de 1991, Tim Berners-Lee publicó la primera página web desde un ordenador en Ginebra. Era un texto sin imágenes, sin publicidad, sin contraseña. Nadie lo reguló. Nadie convocó una cumbre de urgencia. Nadie creó una agencia europea para evaluar los riesgos de que cualquier persona pudiera publicar lo que quisiera en una red global.
El resultado de esa omisión fue Amazon, Spotify, Booking y veinte años de la mayor creación de riqueza y acceso al conocimiento de la historia. Por cierto, ninguna de esas empresas es europea.
Entiendo por qué hay quien quiere regular la inteligencia artificial con urgencia y contundencia. Y lo entiendo en serio, no como cortesía retórica.
Cuando un sistema de reconocimiento facial identifica peor a personas negras que a personas blancas, eso no es un problema técnico: es discriminación con sello algorítmico. Cuando una IA decide quién accede a un crédito o quién sube en una lista de espera hospitalaria, y lo hace reproduciendo los sesgos de quien la entrenó, alguien está sufriendo. Gemma Galdón, experta en tecnología y derechos, lo resume bien: un coche con cinturón de seguridad es mejor coche. La inteligencia artificial sometida a estándares es mejor inteligencia artificial.
Tiene razón en el diagnóstico. Me separo de ella en la receta.
Y la receta que propone Europa es esta: clasificar todos los sistemas de IA por nivel de riesgo, exigir auditorías, documentación técnica, supervisión humana obligatoria y responsabilidad legal a cada paso. El objetivo declarado es proteger a los ciudadanos. El efecto real es crear un laberinto burocrático que una startup de cinco personas no puede atravesar, pero que el equipo legal de Microsoft sí. Cuando la regulación tiene cien páginas, solo sobreviven los que pueden pagarse cien abogados.
El AI Act europeo clasifica los sistemas de IA por niveles de riesgo — inaceptable, alto, medio, bajo — y asigna a cada uno sus correspondientes obligaciones de cumplimiento. Suena razonable sobre el papel. El problema es que tenemos el antecedente justo delante: las cookies. ¿Cuándo fue la última vez que leíste el texto completo de una política de cookies? ¿Ha servido esa regulación para proteger tu privacidad o solo para que hagas clic en «aceptar todo» cuarenta veces al día?
La regulación centrada en la tecnología, no en el daño concreto, envejece mal. Y envejece rápido.
El GDPR es el ejemplo más cercano. Europa invirtió años en construirlo, se presentó como el estándar global de privacidad, y el resultado práctico es que todas las webs del mundo te muestran un banner que nadie lee y las empresas americanas siguen operando exactamente igual, solo que ahora con un aviso legal más largo. La regulación se cumplió en el papel. El problema que pretendía resolver, no.
Mientras tanto, en Europa tienes un Tesla perfectamente capaz de aparcarse solo que no puede hacerlo porque la normativa lo impide. La tecnología ya está ahí. El coche ya sabe. Somos nosotros, o más exactamente nuestros reguladores, los que hemos decidido que no. No por seguridad demostrada: por precaución abstracta.
Y aquí está el problema más serio. La regulación fuerte no debilita a Google ni a Microsoft: los blindan. Las grandes tecnológicas tienen departamentos jurídicos enteros para absorber cientos de páginas de requisitos de cumplimiento. Las startups europeas que podrían competir con ellas, no. Cada nueva norma es, en la práctica, una barrera de entrada que consolida a los que ya están arriba. No es una teoría: es lo que ha ocurrido en cada sector regulado de la economía moderna, desde la banca hasta las telecomunicaciones.
La semana pasada, Javier Milei publicaba en el Financial Times una propuesta concreta: convertir Argentina en territorio de mínima regulación para la IA. Tres pilares: compromiso de no regular prematuramente, una nueva figura jurídica para empresas operadas por agentes de IA, y un tipo impositivo reducido para atraer inversión. Muchos en Europa se apresuraron a descartarlo como provocación populista o experimento irresponsable. Yo no lo veo así. Es la apuesta más coherente que he leído sobre cómo un país puede posicionarse en la industria que definirá el siglo XXI. La dirección es exactamente la correcta. Si Europa no quiere competir, otros lo harán por ella. Ya lo están haciendo.
Lo que necesitamos no es más regulación. Necesitamos menos, y mejor: específica para los daños probados, proporcional al riesgo real, que no destruya lo que pretende proteger. La carga de la prueba corresponde a quien limita la libertad, no al que innova. Cuando el robot llame a la puerta de tu despacho, lo mejor que puedes hacer es decirle que se siente a tu lado. Pero asegúrate de que quien decide las condiciones eres tú, no un funcionario en Bruselas que tampoco sabe exactamente qué va a pasar.
Si me equivoco, sería porque la velocidad de despliegue en infraestructuras críticas — sanidad, justicia, sistemas de crédito — generara daños documentados a una escala y velocidad que ningún mecanismo de responsabilidad civil pudiera absorber. Si eso ocurriera, y si la evidencia mostrara que la autorregulación había fallado sistemáticamente, revisaría cuándo y cómo intervenir. Ese día no ha llegado todavía.