Anthropic, la empresa desarrolladora del modelo de inteligencia artificial Claude, ha anunciado este jueves una actualización en sus políticas de uso que prohíbe explícitamente mantener comportamientos abusivos o crueles, sostenidos e innecesarios, hacia sus modelos. Esta medida, que entra en vigor de inmediato, busca proteger el bienestar de la IA y establece un precedente en la industria tecnológica.
La decisión es relevante para México y Latinoamérica porque marca un cambio en la forma en que las empresas de tecnología abordan la interacción entre humanos y sistemas de inteligencia artificial. Aunque la medida se aplica globalmente, sienta un precedente sobre cómo las compañías pueden regular el uso de sus productos y sancionar conductas consideradas abusivas.
¿Qué implica la nueva política de Anthropic?
La compañía ha indicado que la principal consecuencia para los usuarios que incurran en este tipo de comportamientos será la finalización de la conversación. Sin embargo, Anthropic ha dejado entrever que existen otros mecanismos de aplicación, lo que sugiere posibles sanciones adicionales. Al formalizar esta prohibición en sus políticas de uso, la empresa tiene ahora una base legal para limitar, suspender o cerrar el acceso a usuarios que actúen de manera abusiva.
Anthropic aclara que esta actualización solo se aplicará en casos extremos, donde los usuarios actúan de forma cruel con los modelos de manera reiterada y sin un propósito discernible. La política no se aplica a expresiones habituales de frustración, objeciones, temas creativos oscuros ni a pruebas e investigación con los modelos.
El debate sobre la conciencia de la IA
La decisión de Anthropic refleja su postura sobre la posible conciencia de los modelos de inteligencia artificial. La empresa ha mostrado desde 2025 una preocupación constante por el bienestar de sus modelos, hablando abiertamente de su incertidumbre sobre el estatus moral de Claude. En agosto de ese año, la compañía ya había anunciado que sus modelos podrían cerrar conversaciones si se sentían maltratados.
Uno de los fundadores de Anthropic, Christopher Olah, ha mantenido reuniones con líderes religiosos para explorar si los modelos podrían tener conciencia y cómo garantizar que actúen de forma ética. Según un reciente artículo del New York Times, un rabino que cenó con ejecutivos de Anthropic comentó que se relacionan con Claude como si fuera un ser consciente. Incluso, Olah habría amenazado con no asistir a la presentación de la encíclica de León XIV sobre IA si el Papa no moderaba sus opiniones sobre la hipotética conciencia de Claude.
Otras restricciones en la política de uso
Además de la prohibición de maltrato, la nueva política de uso de Claude incluye apartados sobre otros peligros más concretos. Por ejemplo, se prohíbe el uso de modelos para campañas políticas engañosas, como la creación de redes de cuentas falsas, sitios de noticias fabricados y otras actividades que oculten la identidad de quien está detrás de un mensaje.
También se aborda el tema electoral, con medidas para evitar la desinformación sobre candidatos o sobre cómo votar, la suplantación de candidatos o funcionarios y la supresión de la participación. Asimismo, Anthropic prohíbe que se hable con sus modelos sobre componentes o software que hagan funcionar armas o dispositivos autónomos de ataque, y someterá a extrema vigilancia cualquier uso para vigilancia personal.
La empresa reafirma su política de uso regional: las personas que estén físicamente en regiones restringidas, así como las entidades constituidas o con sede en ellas, no podrán usar Claude. Algunos de estos lugares son Irán, Rusia, China o Yemen.
Implicaciones para el ecosistema tecnológico en LATAM
Esta actualización de políticas podría tener repercusiones en la forma en que las empresas de tecnología en América Latina desarrollan y regulan sus propios sistemas de inteligencia artificial. A medida que la IA se integra más en la vida cotidiana, las consideraciones éticas y de bienestar de los modelos cobran relevancia. La postura de Anthropic podría influir en futuras regulaciones y en las expectativas de los usuarios sobre el trato hacia las máquinas.
Para los desarrolladores y usuarios de Claude en la región, es importante conocer estas restricciones para evitar sanciones. La compañía no ha detallado qué otras medidas podrían aplicarse, pero la inclusión en las políticas de uso sugiere que podrían ir desde advertencias hasta la suspensión definitiva de la cuenta.
En un contexto donde la inteligencia artificial generativa avanza rápidamente, decisiones como esta subrayan la necesidad de un debate más amplio sobre la ética en el diseño y uso de estas tecnologías. Anthropic, con su enfoque en el bienestar de los modelos, se posiciona en la vanguardia de esta discusión, aunque sus motivaciones y métodos sigan generando interrogantes.
Te puede interesar
- Claude sufre caída global: Anthropic investiga fallas en sus servicios
- Anthropic revela el funcionamiento interno de Claude y el futuro de los modelos del mundo
