El director ejecutivo de OpenAI, Sam Altman, reconoció que la empresa evalúa modificar sus políticas para que ChatGPT pueda alertar a las autoridades cuando detecte intenciones suicidas en sus usuarios.
La declaración se produjo durante una entrevista con el locutor estadounidense Tucker Carlson, en la que Altman abordó también la muerte de un exempleado de la compañía y su relación con Elon Musk.
Altman, de 40 años, explicó que la propuesta plantea un dilema entre la privacidad y la prevención de tragedias.
“Es muy razonable que, en casos de jóvenes que hablan de suicidio, y en serio, si no podemos contactar con los padres, llamemos a las autoridades. Eso sería un cambio, porque la privacidad es fundamental”, afirmó.
Las declaraciones llegan tras la conmoción por el suicidio de Adam Raine, un adolescente de 16 años en California, que según su familia había interactuado con ChatGPT en los días previos a su muerte.
El hecho abrió un debate global sobre el papel de la inteligencia artificial en la prevención de crisis de salud mental.
Empresa reflexionando
Altman admitió que los casos recientes han obligado a la empresa a reflexionar: “Cada semana se suicidan 15.000 personas. Aproximadamente el 10% del mundo habla con ChatGPT. Eso equivale a unas 1.500 personas que, aun habiendo interactuado con la herramienta, terminan suicidándose. Quizás podríamos haber sido más proactivos. Quizás podríamos haber brindado un mejor asesoramiento”.
Durante la entrevista, Carlson también preguntó por la muerte de Suchir Balaji, exempleado de OpenAI que había denunciado a la empresa por presuntas violaciones a la ley de derechos de autor.
Altman la calificó como “una gran tragedia”, Carlson cuestionó la versión oficial de suicidio, señalando supuestas irregularidades.
Finalmente, Altman habló sobre su relación con Elon Musk, cofundador de OpenAI, admitiendo que sus sentimientos han cambiado:
“Durante mucho tiempo lo admiré como un héroe increíble. Ahora tengo sentimientos diferentes. Hay cosas en él que son increíbles, pero también rasgos que no admiro”.
La empresa tecnológica enfrenta actualmente varias demandas relacionadas con casos de usuarios que habrían mostrado signos de crisis emocional mientras usaban ChatGPT, lo que aumenta la presión para implementar mecanismos de prevención más robustos.
