El Papa quiere prohibir la IA que no entiende

El Papa León XIV recibió a los participantes del encuentro «El futuro de la IA: un diálogo entre el Vaticano y la comunidad científica sobre los avances y las aplicaciones de las tecnologías inteligentes» y dejó un mensaje que excede la reflexión ética: pidió «desarmar la inteligencia artificial» y alentó a los Estados que se reúnen en Ginebra en noviembre a dar «pasos concretos en la prohibición de las armas autónomas letales».

La escena tiene un problema de fondo. Quien pide prohibir una tecnología no está discutiendo sus usos: está pidiendo que otros no la desarrollen. Y en el caso de la inteligencia artificial, la prohibición no la escriben los científicos que la entienden, sino los burócratas que la temen.

La ética como excusa regulatoria

Según la crónica de Uruguay Al Día, el pontífice sostuvo que las consideraciones éticas sobre la IA deben centrarse en su utilidad y finalidad y no en la eficiencia tecnológica. Advirtió además que ver la IA sólo como competencia «se arriesga a centrarse solo en la meta, olvidando a quienes quedan atrás», y defendió que un sistema «confiable» vale más que uno «excepcionalmente potente pero imprevisible en sus consecuencias».

El razonamiento suena prudente y es, en realidad, el manual de cualquier regulador: definir qué es «confiable», quién lo certifica y quién queda afuera del mercado mientras espera el permiso. Cada capa de aprobación ética es una barrera de entrada. Y las barreras de entrada no protegen a los ciudadanos: protegen a los grandes, los únicos capaces de pagar el costo de cumplir con la norma.

Ginebra, noviembre

La reunión de los Estados en Ginebra es el escenario donde esa lógica se convierte en tratado. La fuente no precisa la fecha exacta del encuentro ni adjunta la transcripción oficial del discurso, pero el pedido es explícito: avanzar en la prohibición de las armas autónomas letales.

SU está en contra de cualquier regulación de la inteligencia artificial, y este caso lo muestra con claridad. Prohibir el desarrollo de sistemas autónomos no elimina la tecnología: la desplaza a quienes no firman tratados, concentra el mercado en los pocos actores que ya tienen escala y deja a los países chicos mirando desde afuera cómo otros definen las reglas.

El desarrollo científico no necesita permiso de una cumbre para avanzar. Lo que necesita es que nadie lo frene en nombre de una ética que se redacta en despachos y se aplica sobre el trabajo de otros. La innovación no se «desarma»: se apaga, y con ella se apaga la posibilidad de que el próximo avance lo haga alguien que no estaba en la mesa.