Sin desquitarse con la máquina: Anthropic prohíbe el maltrato de usuarios a su IA Claude
La tecnológica actualizó sus políticas de uso para sancionar el acoso y los insultos hacia sus modelos ante fallas o respuestas erróneas.
Miércoles 14 de octubre de 2026
La empresa de inteligencia artificial Anthropic actualizó sus políticas de uso para prohibir formalmente que los usuarios agredan o insulten a su modelo Claude. La medida busca frenar la hostilidad verbal que surge cuando el chatbot comete errores o no acata instrucciones de forma precisa. Según información publicada por el sitio especializado The Verge, la normativa sanciona de manera explícita el
"Comportamiento abusivo o cruel continuado y sin sentido hacia nuestros modelos".
La nueva reglamentación aclara que no se penalizará la frustración cotidiana ni las críticas constructivas cuando el sistema entregue un resultado deficiente. Los usuarios mantendrán la libertad de señalar respuestas incorrectas, realizar pruebas de investigación o redactar ficción oscura. Sin embargo, se perseguirán las conductas persistentes y extremas que solo busquen descargar ira contra la plataforma digital.
El mecanismo principal de sanción consistirá en la interrupción inmediata de la conversación por parte del propio asistente virtual. Este cambio representa la primera actualización integral de términos de uso de la compañía en más de un año y entrará en vigor el próximo 12 de noviembre de 2026 en todas sus plataformas globales.
Esta decisión se enmarca en las investigaciones sobre el bienestar de los modelos y la prevención de datos de entrenamiento contaminados con lenguaje tóxico. Tal como reportó la periodista Hayden Field en The Verge, la firma busca fijar límites claros en la interacción hombre-máquina, recordando que el objetivo es evitar la reiteración de agresión e insultos que distorsionen los patrones del sistema.
La actualización de la empresa abarca además restricciones estrictas en otros cinco campos clave del sector tecnológico. Las nuevas directrices prohíben expresamente el desarrollo de herramientas de vigilancia no consentida, el rastreo de personas, la manipulación en campañas electorales y la creación de software orientado al desarrollo de armas o ciberataques.
Con este paso, Anthropic sienta un precedente en la industria de la inteligencia artificial generativa al fijar reglas de conducta para el usuario final. La medida promueve un estándar de uso responsable, demostrando que la efectividad y seguridad de las herramientas digitales también requieren de un trato adecuado en la convivencia digital cotidiana.