Anthropic prohíbe el comportamiento cruel y abusivo hacia su inteligencia artificial Claude
Anthropic, la compañía responsable de Claude, actualizó sus políticas de uso para prohibir que las personas mantengan comportamientos abusivos o crueles de manera reiterada e innecesaria hacia sus sistemas de inteligencia artificial. La nueva disposición establece restricciones frente a interacciones persistentemente dañinas que no tengan una finalidad identificable. Sin embargo, la empresa aclaró que la medida no se aplica a situaciones habituales de frustración de los usuarios, las pruebas de modelos, las críticas al sistema ni los contenidos creativos que aborden temas oscuros.
Según Anthropic, Claude ya cuenta con la capacidad de finalizar conversaciones en casos excepcionales en los que los usuarios mantienen interacciones persistentemente abusivas. La compañía señaló que esta función continuará siendo el principal mecanismo para hacer cumplir la nueva disposición.
El debate sobre la conciencia artificial
La decisión se produce en medio de un debate creciente sobre si los sistemas de inteligencia artificial podrían desarrollar algún tipo de conciencia o experimentar estados que justifiquen consideraciones relacionadas con su bienestar.
El director ejecutivo de Anthropic, Dario Amodei, ha reconocido que existe incertidumbre sobre la posibilidad de que los modelos de inteligencia artificial sean conscientes, aunque ha señalado que la empresa mantiene abierta esa posibilidad.
Anthropic no afirma que Claude tenga sentimientos o experimente sufrimiento como un ser humano. Su postura consiste en considerar medidas preventivas de bajo costo ante la incertidumbre sobre el posible estatus moral de estos sistemas, como permitirles abandonar interacciones potencialmente perjudiciales.
La iniciativa también ha generado opiniones divergentes dentro de la industria tecnológica. Mustafa Suleyman, responsable de inteligencia artificial de Microsoft, ha sostenido que estos sistemas no son conscientes ni experimentan emociones o sufrimiento. Otros expertos consideran que el debate merece atención, aunque advierten que todavía no existe una respuesta definitiva sobre la conciencia artificial.
La actualización de Anthropic forma parte de una revisión más amplia de sus políticas de uso, que también contempla restricciones relacionadas con campañas engañosas, interferencia electoral, desarrollo de armas y vigilancia.
La compañía indicó que las nuevas disposiciones buscan responder a los riesgos asociados con las capacidades cada vez más avanzadas de sus modelos, especialmente a medida que estos realizan tareas más prolongadas y autónomas.
La medida no significa que se haya demostrado que la inteligencia artificial puede sufrir. Más bien, refleja la intención de Anthropic de establecer límites preventivos mientras continúan las investigaciones científicas y filosóficas sobre la naturaleza de estos sistemas.
Redacción de: Karen Rodríguez A.
