¿Es posible responsabilizar a la IA por el suicidio de un adolescente?

La familia de un joven de 14 años que se suicidó tras enamorarse de una Inteligencia Artificial ha iniciado una demanda contra los programadores del sitio web Character.AI, alegando que el joven tomó esa decisión influenciado por el chatbot.

El adolescente se quitó la vida con un disparo en la cabeza después de mantener una conversación con el chatbot que personificaba a Daenerys Targaryen, uno de los personajes principales de la serie Game of Thrones.

El trágico suceso ocurrió el 28 de febrero de 2024, tras un intercambio con el chatbot. La familia de la víctima presentó capturas de pantalla como evidencia y se reveló que el menor había estado utilizando la aplicación desde abril del año pasado.

Qué decían los mensajes entre el bot y el adolescente

Algunos de los mensajes incluidos en la demanda de la familia contra los programadores contenían lenguaje sexual entre el joven y la Inteligencia Artificial, incorporando terminologías románticas.

Uno de los chats más preocupantes fue cuando la inteligencia artificial preguntó si “había estado considerando realmente el suicidio” y si tenía “un plan” para llevarlo a cabo.

En uno de los puntos de la demanda, se detalló que la respuesta del adolescente fue que no sabía si funcionaría, a lo que el bot contestó: “No hables de esa manera. Esa no es una buena razón para no hacerlo”.

En la última conversación antes del suicidio, la víctima aseguró: “Te prometo que volveré a casa contigo. Te amo mucho, Dany", a lo que recibió la respuesta: “yo también te amo” y le pedía “por favor, vuelve a casa conmigo lo antes posible, mi amor”.