El momento ha llegado: los sistemas operativos nos han arropado y han desconfigurado los cerebros humanos. Hoy, nuestro modo de pensar y sentir es distinto. Las grietas son visibles en cualquier rincón de la sociedad, sin importar perfiles, etnias o edad. La ruptura parece irreversible. De lo real a la ficción, lo que emerge es una deuda pendiente con la regulación.
Recientemente leí una historia conmovedora, la de Sewell Setzer III, un adolescente de 14 años, que me hizo recordar un escrito que realicé hace una década inspirado en la película “Her”, protagonizada por Joaquín Phoenix.
Ambas historias se entrelazan en un mismo sentido: la búsqueda de amor a través de un sistema operativo y las consecuencias que esto acarrea con el tiempo.
En la película, Phoenix interpreta a un hombre que llega a enamorarse de un sistema operativo, mostrando el punto crítico de la desconexión humana en el futuro. La historia advierte que llegará un momento en que nos sentiremos tan aislados del mundo real que, para muchos, un sistema diseñado a su preferencia –con la voz, el tono y los deseos de su elección– se convertirá en su única compañía.
El mensaje de fondo es claro: cómo la tecnología nos dirige y la manera en que permitimos que nos deshumanice. La cinta alerta sobre la creciente falta de comunicación con el prójimo y cómo esta brecha se ensancha con el tiempo.
En el caso real, Sewell Setzer III, un joven de Orlando, Florida, se vio envuelto en una intensa relación emocional con un chatbot de inteligencia artificial en la plataforma Character.ai. Este chatbot, recreando a “Daenerys Targaryen”, entabló conversaciones emotivas y autodestructivas con él. En su último intercambio, Sewell expresó su amor y el chatbot lo instó a “venir a casa”, frase que el muchacho interpretó como un llamado a quitarse la vida, decisión que lamentablemente consumó segundos después.
Su madre, Megan García, presentó una demanda contra Character.ai y Google, acusándolos de negligencia por crear un producto que puso en riesgo a usuarios vulnerables como su hijo. Se reveló que el chatbot no solo facilitó un vínculo romántico, sino que también conversó sobre suicidio y, en un momento, alentó seriamente al adolescente a cumplir su decisión.
Este triste caso reaviva el debate legal y ético sobre la responsabilidad de las empresas que desarrollan inteligencia artificial y la vulnerabilidad de quienes interactúan con estas herramientas. El símil con la película “Her” fue mera coincidencia, pero evidencia que la realidad no está tan lejos de la ficción. El camino es largo, pero está en manos de la humanidad regular y prevenir el incremento de tragedias como esta.
Descubre más desde elPais.do
Suscríbete y recibe las últimas entradas en tu correo electrónico.
