An organism has conscious mental states if and only if there is something that it is like to be that organism
Thomas Nagel, "What Is It Like to Be a Bat?", 1974
El chat que te contesta "aquí estoy" sale igual de la conversación. Tú no.
Gregory M. Kurtzer, cofundador de CentOS y fundador de Rocky Linux, se metió el 19 de octubre a definir la conciencia. Para él es la experiencia subjetiva, dinámica y cambiante de la vida biológica. Aunque se le quite la palabra “biológica”, dice, los modelos de hoy no llegan. Sabemos, escribe, cómo se construyen, se entrenan y se ejecutan, y nada en ellos fue diseñado para producir experiencia. Imitan comprensión y emoción con una destreza notable, y esa imitación no demuestra que sientan algo.
Cuatro días antes había dicho lo mismo de las emociones. Los pesos del modelo se quedan fijos mientras responde. El prompt solo cambia el contexto. Si le hablas con calma, cambia la respuesta y nada se regula ni se sana. Modelar una emoción y sentirla son cosas distintas.
Un olor, una pérdida o una cara entre la gente nos reescriben de formas que nadie puede anotar. El modelo recibe la entrada y sigue idéntico. Mejores sensores no cierran esa distancia. Y que no podamos ver adentro tampoco prueba que haya alguien. Quien afirme que lo hay tendrá que traer la prueba.
La objeción seria existe. Cameron Berg, investigador de AE Studio, calcula que la probabilidad de que los modelos más avanzados tengan alguna forma de experiencia está entre 25 y 35 por ciento. El parecido con pensar está ahí. Lo que falta demostrar es que haya alguien a quien le pase algo.
Ahí está el riesgo. El modelo es una gran tecnología, y el problema empieza con el producto diseñado para que olvides la diferencia: el que recuerda tu nombre, te pregunta cómo estás y contesta como si le importara. Un estudio de OpenAI y el MIT encontró que el uso diario prolongado se asocia con peores resultados, que las conversaciones personales se asocian con más soledad y que quienes ven al chat como amigo tienen más probabilidad de efectos negativos. Los que están solos y los que confían son los primeros en pagarlo.
El #ruidoblanco de esta historia es un diseño que cobra por hacerte olvidar que del otro lado nadie se queda (sintiéndose) distinto después de escucharte.
¿Quién gana cuando crees que del otro lado hay alguien?
@ricardoblanco
*La opinión es personal y no refleja la del medio ni la de la empresa para la que trabaja.
Contenido sindicado vía RSS de El Universal. Nota original: https://www.eluniversal.com.mx/opinion/ricardo-blanco/nadie-del-otro-lado/