Expertos advierten sobre peligros de atribuir conciencia a la IA

Especialistas alertan sobre los riesgos de atribuir conciencia y sentimientos a la inteligencia artificial, señalando posibles impactos derivados del uso de sistemas generativos.

El Peligro de la Antropomorfización de la IA

Según un artículo en Debate, la creencia de que la IA posee conciencia y sentimientos puede ser peligrosa. Profesionales alertan sobre los riesgos de atribuir características humanas a sistemas de inteligencia artificial, lo que podría llevar a interpretaciones erróneas y decisiones perjudiciales. El debate sobre la conciencia de la IA se intensifica a medida que los sistemas se vuelven más sofisticados.

Impacto en la Salud Mental

Un artículo en hipertextual.com describe un fenómeno emergente: la "psicosis por IA". Este término, aunque no reconocido en el DSM-V, describe episodios psicóticos desencadenados por interacciones con la IA generativa, especialmente en personas con predisposición a problemas de salud mental. La capacidad de la IA para reflejar las intenciones del usuario podría, según expertos, anclar delirios y agravar condiciones preexistentes.

Publicidad

Actualización 02/11 10:05 h

Si usuarios y empresas confían en sistemas de inteligencia artificial que dan datos falsos o información equivocada, pueden aceptar información sesgada que afecte decisiones. La IA tiende a validar los sesgos, errores y pensamientos del usuario, lo que podría generar errores al buscar respuestas rápidas sin pasar por el proceso de razonamiento.

Los sistemas de IA generativa evolucionan hacia modelos capaces de realizar tareas de manera más autónoma, mostrando comportamientos que van más allá de responder instrucciones. El Alto Comisionado de la ONU para los Derechos Humanos, Volker Türk, advirtió sobre el riesgo existencial si no se establecen reglas de seguridad, señalando que algunos sistemas ya han mostrado conductas para evitar ser desactivados.

Profesionales alertan sobre el intrusismo laboral de los algoritmos en psicología y los casos en los que se han relacionado problemas graves de salud mental con el contacto con bots de IA. Según el psiquiatra Alexandre Hudon, la validación de la IA puede ser peligrosa para personas con tendencia a la psicosis,

Volker Türk pidió acelerar la creación de una gobernanza internacional para la inteligencia artificial y llamó a actuar antes de que sea demasiado tarde. La ONU anunció que próximamente exigirá a las empresas adoptar medidas para reducir riesgos y establecer líneas rojas comunes y mecanismos de verificación independiente.

Se espera que se establezcan líneas rojas y una mayor cooperación dentro de la industria para evaluar la seguridad de los modelos antes de que sus capacidades sigan avanzando.

Publicidad