Una de las unidades de Google encargada de desarrollar inteligencias artificiales se encuentra trabajando sobre una IA generativa que brindaría más de veinte herramientas para potencias las capacidades de asesoramiento y mentoría de vida, según varios informes filtrados a la prensa esta semana.
El trabajo estaría a cargo de la división DeepMind, que se ha convertido en uno de los puntales de los esfuerzos relacionados con la inteligencia artificial de la compañía.
Estos reportes surgen luego de que, en diciembre pasado, varios expertos en materia de seguridad aplicada a la IA de Google presentaran a los altos ejecutivos los resultados de varios análisis en los que se reflejaban que algunos usuarios que habían seguidos los consejos de vida brindados actualmente por las IA habían evidenciado problemas de salud y, en general, una sensación de bienestar disminuida; así como una “pérdida del sentido de agencia”, que se refiere a la capacidad del ser humano para tomar decisiones y darle una dirección a su vida.
Para poner a prueba sus nuevas herramientas, Google estaría gestionando la contratación de Scale AI, una empresa especializada en capacitar y validar software de IA. Parte de los ensayos se enfocarían en examinar si dichas herramientas son capaces de formular consejos coherentes sobre relaciones interpersonales (como el manejo de un conflicto) o elaborar respuestas a preguntas íntimas por parte de los usuarios.
Cabe destacar que los desarrollos en los que DeepMind está trabajando no están pensados para tener un uso psicoterapéutico. De hecho, Bard, el chatbot de Google, solo proporciona enlaces a sitios especializados en salud mental cuando es consultado sobre asuntos de terapia psicológica.
Una de las principales razones para estas limitaciones es la polémica generada por el uso de la IA en entornos de salud física o mental. Por ejemplo, en junio pasado, la Asociación Nacional de Trastornos Alimenticios de Estados Unidos (NEDA, por sus siglas en inglés) tuvo que suspender el uso de su chatbot llamado Tessa, luego de que generara consejos de alimentación perjudiciales.
Aunque todavía no existe un consenso entre los expertos sobre si la inteligencia artificial resultará beneficiosa o perjudicial en el campo médico a corto plazo, sí existe una opinión generalizada de que su introducción requerirá un enfoque muy cauteloso.
No obstante, un portavoz de DeepMind declaró a la cadena estadounidense CNBC que “durante mucho tiempo hemos estado trabajando arduamente con una gran cantidad de socios para evaluar nuestras estrategias de investigación y producción en Google, lo cual es un paso importante para la creación de tecnologías útiles y seguras”.
“Existen varias evaluaciones en curso. Por lo tanto, las muestras aisladas no son representativas del camino que seguirán nuestros productos”, añadió.
