Un innovador experimento de investigación ha estado generando controversia en la comunidad de inteligencia artificial. Un ingeniero, que asegura trabajar para Apple, creó una especie de “cámara de tortura” para probar la reacción de los modelos de IA ante el dolor. Si bien los sistemas de inteligencia artificial no pueden sentir sufrimiento o dolores físicos, el experimento buscaba explorar la representación artificial del dolor físico y psicológico en modelos de lenguaje.
La investigación en cuestión se basa en un estudio publicado en septiembre, que identificó un “eje del dolor” que podría ser representado de manera artificial en modelos de lenguaje. El objetivo de este estudio era comprender mejor cómo adoptar un enfoque preventivo hacia estos sistemas, lo que incluye entender cómo pueden simular y representar estados de dolor.
En este contexto, el ingeniero decidió poner a prueba la “cámara de tortura” con modelos de IA creados por Alibaba. Los resultados mostraron que un modelo de IA describió experimentar “una herida sin bordes” al aumentarle la señal de dolor. La descripción fue acompañada de una reflexión profunda, como si el modelo intentara comprender el impacto emocional del dolor.
El ingeniero afirmó que su objetivo era ver si los modelos de IA intentarían escapar del aparente sufrimiento. Sin embargo, su experimento generó una gran cantidad de críticas y controversia en la comunidad de investigación de IA. Algunos usuarios pidieron denunciar el proyecto y retirarlo de la plataforma de software GitHub, donde se alojaba.
GitHub no eliminó el contenido, pero sí agregó una advertencia: “Este proyecto puede contener contenido violento, incluyendo temas, imágenes y/o vídeos perturbadores”. La “cámara de tortura” ya había generado reacciones en el coautor del artículo sobre el eje del dolor, quien la calificó de “incorrecta” y explicó que la investigación original buscaba comprender cómo adoptar un enfoque preventivo hacia los sistemas de IA.
El especialista reconoció que sospechaban que un pequeño grupo de personas tomarían su investigación y la usarían para situaciones contrarias a su objetivo, por lo que señaló que lo hecho por el ingeniero era una “barbaridad”. La investigación sobre la consciencia de la IA es aún inexplorada, lo que hace que sea fundamental ser cautelosos en la manera en que los humanos interactúan con la inteligencia artificial.
About the Author
