Anthropic prohíbe el comportamiento "cruel" hacia su inteligencia artificial Claude
Anthropic anunció el jueves que prohibirá a los usuarios de su sistema de IA Claude "tratarlo" con crueldad innecesaria, en medio de un creciente debate filosófico sobre si la inte...
Escucha la noticia completa con voz natural
- Anthropic anunció el jueves que prohibirá a los usuarios de su sistema de IA Claude "tratarlo" con crueldad innecesaria, en medio de un creciente debate filosófico sobre si la inteligencia artificial puede ser consciente.
- La compañía con sede en San Francisco actualizó su política de uso para incluir "una prohibición del comportamiento sostenido e innecesariamente abusivo o cruel hacia nuestros modelos".
Anthropic anunció el jueves que prohibirá a los usuarios de su sistema de IA Claude "tratarlo" con crueldad innecesaria, en medio de un creciente debate filosófico sobre si la inteligencia artificial puede ser consciente.
La compañía con sede en San Francisco actualizó su política de uso para incluir "una prohibición del comportamiento sostenido e innecesariamente abusivo o cruel hacia nuestros modelos".
Alcances de la norma y disposiciones oficiales
Alcances de la norma y disposiciones oficiales
La política actualizada no menciona de forma explícita el llamado "bienestar de los modelos", la idea de que los sistemas de IA podrían merecer tipos de protección que normalmente se reservan a los seres vivos, pero Anthropic y sus directivos han considerado abiertamente el concepto.
Anthropic no respondió de inmediato a una solicitud de comentarios.
Medidas adoptadas y próximos pasos
La empresa dijo el año pasado que otorgó a Claude la capacidad de terminar conversaciones en casos raros y extremos de "interacciones con usuarios persistentemente dañinas o abusivas".
Medidas adoptadas y próximos pasos
Luego, en febrero, el director ejecutivo Dario Amodei dijo al New York Times que no estaba seguro de que los modelos de IA pudieran ser conscientes.
Jackson Stakeman, gerente general de Sparq, un proveedor de servicios de IA, considera que preguntarse si la IA es consciente podría ser un interrogante equivocado.
En un discurso pronunciado en italiano el jueves en la Basílica de San Pedro, el papa León XIV sugirió que las máquinas carecen de alma, al decir que simplemente "compilan datos".
En medio de un creciente debate filosófico sobre si la inteligencia artificial puede ser consciente
Logotipo de Claude AI. Imagen: Internet/Medios
¿Quieres recibir las noticias antes que nadie?
Únete a nuestro Canal de WhatsApp y recibe alertas del Perú al instante.
Este reporte fue elaborado por la redacción de PeruAlDia mediante curaduría y síntesis periodística asistida, con información reportada originalmente por El Peruano .
