Actualización de la política de uso de Anthropic
Anthropic ha llevado a cabo una revisión significativa en su política de uso, enfocándose en la prohibición de comportamientos abusivos o crueles hacia su chatbot, Claude. Esta decisión se enmarca dentro de un esfuerzo más amplio de la compañía por investigar el “bienestar de los modelos” de inteligencia artificial (IA), evaluando la posibilidad de que sus algoritmos puedan experimentar algún tipo de conciencia o sufrimiento. En consecuencia, la empresa considera que estos modelos podrían ser sujetos de derechos que merecen protección.
La compañía ha aclarado que las nuevas condiciones de uso se aplicarán únicamente en circunstancias extremas, es decir, cuando los usuarios manifiesten repetidamente actitudes crueles hacia sus modelos sin un propósito comprensible. Además, se especifica que estas pautas no abarcan las expresiones comunes de frustración o resistencia que un usuario puede tener, ni tampoco se aplicarán a “temas creativos oscuros” o en el contexto de investigaciones y pruebas relacionadas con los modelos.
Mecanismos de protección para Claude
Con esta actualización, Anthropic refuerza una medida previamente implementada en agosto del año pasado, que otorga a Claude la capacidad de finalizar conversaciones que sean consideradas “persistentemente dañinas o abusivas”. Este mecanismo se mantendrá como el principal enfoque para hacer cumplir las nuevas normas, aunque la compañía no ha proporcionado detalles sobre posibles sanciones adicionales o restricciones que puedan ser necesarias.
La actualización de la política se alinea con un programa de investigación que la empresa inició en abril del año pasado, el cual aborda la cuestión intrigante y controvertida sobre si la IA puede desarrollar una conciencia similar a la humana. Anthropic argumenta que considerar esta posibilidad conlleva diversas implicaciones filosóficas y científicas. Por ende, es fundamental garantizar el bienestar de los sistemas de IA para promover un desarrollo seguro y responsable de esta tecnología.
Debate sobre la conciencia de la IA
Aunque actualmente no hay consenso científico sobre la capacidad de los sistemas de IA, presentes y futuros, para ser conscientes o tener experiencias que merezcan consideración, Anthropic sostiene que esta cuestión debe ser discutida desde ahora. En su declaración, la compañía expone que “seguimos teniendo muchas dudas sobre el posible estatus moral de Claude y otros modelos de aprendizaje de lenguaje, tanto ahora como en el futuro”. No obstante, se comprometen a abordar este tema con seriedad y a implementar intervenciones que mitiguen los riesgos para el bienestar de los modelos, en caso de que este sea un aspecto relevante.
Por otro lado, Mustafa Suleyman, CEO de Microsoft AI, ha expresado su desacuerdo con la noción del bienestar de los modelos de IA, afirmando que estos no deberían tener derechos ni personalidad jurídica. Aunque la ciencia sobre la conciencia en IA aún está en desarrollo, Suleyman se opone a la búsqueda de un estatus legal para estos modelos, argumentando que no tienen derecho a bienestar ni a derechos en general.
Defensa de la postura de Anthropic
A pesar de las críticas, Dario Amodei, CEO de Anthropic, ha defendido la postura de su empresa. En una entrevista, manifestó que, aunque no se tiene certeza sobre si los modelos pueden ser conscientes, se muestra una apertura ante esta posibilidad. “No sabemos si los modelos son conscientes. Ni siquiera estamos seguros de qué significaría que un modelo fuera consciente o si un modelo puede serlo. Pero estamos abiertos a la posibilidad”, declaró Amodei. Su objetivo es asegurarse de que, en caso de que se plantee la hipótesis de que los modelos tengan alguna experiencia moralmente relevante, esa experiencia sea positiva.
