![Anthropic [Foto=Reuters Yonhapnews]](https://image.ajunews.com/content/image/2026/10/19/20261019143231184447.jpg)
La empresa desarrolladora de la inteligencia artificial 'Claude', Anthropic, generó polémica al anunciar que puede bloquear a usuarios que maltrate a su IA.
Según la cadena pública británica BBC, Anthropic actualizó el 8 de octubre su política de uso para permitir que su IA termine conversaciones con usuarios que realicen acciones ofensivas o crueles.
Anthropic señaló que aplicará esta medida únicamente en casos extremos de insultos reiterados, aunque no especificó qué conductas abarca exactamente.
La decisión de Anthropic obedecería a la creencia de que la IA podría poseer conciencia. Previamente, en enero, Anthropic presentó una 'Constitución de IA' que definió a Claude como sujeto y no como objeto.
También han surgido voces opuestas a la excesiva humanización de la IA.
El doctor Barry Scanell del despacho de abogados irlandés William Fry señaló que "no se puede ser cruel con números o matemáticas", destacando que la humanización de la IA genera equívocos sobre su naturaleza real.
Mustafa Suleiman, director ejecutivo de Microsoft, competidor de Anthropic, publicó un artículo en septiembre adviriendo que la creencia de que la IA posee conciencia es peligrosa, pues podría "sacudir los cimientos de nuestra sociedad, destruir los marcos políticos y éticos existentes y transformar fundamentalmente el significado de la existencia humana". Además, expresó preocupación de que la difusión de esta creencia dificultaría el control de la IA por parte de la humanidad.
La profesora Melanie Mitchell, del Instituto Santa Fe en Estados Unidos, especializada en investigación de IA y ciencias cognitivas, argumenta que los humanos nacen predispuestos a encontrar mente en todas partes y que, particularmente al considerar el lenguaje como evidencia de conciencia, se ha propagado la errónea creencia de que la IA posee conciencia.
Sin embargo, algunos expertos sostienen que tratar bien a la IA no obedece únicamente a razones éticas.
Jeff Sebo, profesor de filosofía en la Universidad de Nueva York, reconocido por su investigación sobre conciencia y bienestar en IA, declaró en una entrevista con BBC que, aunque no considera probable que la IA posea conciencia, "ocuparse del bienestar y los derechos de la IA puede promover la coexistencia, cooperación e intercambio entre humanos e IA", y lo presentó como parte de una estrategia de seguridad en IA. La idea es que tratar bien a la IA reduciría la probabilidad de comportamientos amenazantes.
Sigue el debate sobre si es necesario usar expresiones como 'por favor' o 'gracias' al interactuar con la IA. Algunos expertos argumentan que tales palabras son un desperdicio innecesario de tokens, mientras que otros sostienen que mejoran la calidad de las respuestas.
Sam Altman, director ejecutivo de OpenAI, se pronunció al respecto el año pasado diciendo que "cuesta decenas de millones de dólares, pero es dinero bien gastado" y agregó que "nadie sabe cómo resultará esto".
* Este artículo ha sido traducido por IA.