Aleks Berditchevskaia, Harry Armstrong, Peter Baeck, Katja Bego, Juan Mateos-García y Wayne Holmes (2020): Alternative visions for the future of AI. NESTA. Artículo on line: https://www.nesta.org.uk/blog/alternative-visions-future-ai/
Crear una inteligencia artificial (IA) que funcione para todos requiere una mejor evidencia de su funcionalidad y una buena dosis de imaginación.
En los últimos días de diciembre de 2019, la compañía canadiense de inteligencia artificial (IA) Blue Dot fue una de las primeras en emitir una alerta sobre la amenaza emergente del COVID-19 en el mundo. Este fue y sigue siendo uno de los sistemas de IA que ayudan a encontrar un orden racional entre las grandes cantidades de datos difusos y no estructurados sobre el virus.
Tratándose de una pandemia, cualquier momento es crítico, pero eso no es todo. En las semanas y meses que siguieron al brote, aquellas primeras advertencias tuvieron que ser interpretadas por redes de expertos en políticas y enfermedades infecciosas, por médicos y ciudadanos. Solo combinando los datos a partir del aviso inicial emitido por la IA, se podía comenzar a desarrollar y planificar una respuesta coordinada a la emergencia.
Pero, ¿qué es la IA?
La IA se compone de sistemas de software capaces de dar respuestas, en situaciones determinadas, en función de la información recibida del entorno.
Los sistemas de IA actuales han logrado importantes avances en una gran variedad de áreas del conocimiento. La IA se reconoce cada vez más como una «Tecnología Transformadora para un Propósito General».
Con la llegada del COVID-19 ha sido posible arrojar luz sobre el valor agregado y los límites de lo que la inteligencia artificial (IA) es capaz de hacer actualmente. Técnicas como la minería de datos y el aprendizaje automático, con su poder para rastrear y detectar patrones sobre gran cantidad de información, están avanzando en la búsqueda de tratamientos y vacunas, al tiempo que las simulaciones y los modelos nos ayudan a anticipar el impacto de las intervenciones políticas en la propagación de la enfermedad. A pesar de todo el entusiasmo por la IA, ésta no ha logrado ofrecer una solución mágica al COVID-19. Son las redes interconectadas de personas las que están al frente de la crisis, en algunos casos respaldadas por la IA. Equipos de médicos y enfermeros/as en hospitales en primera línea de acción, grupos comunitarios que se apoyan mutuamente con entregas de suministros esenciales, y científicos ciudadanos que nos ayudan a mapear el rango de síntomas experimentados por aquellos que están fuera del hospital, son solo algunos ejemplos.
También hemos comprobado que la IA no se adapta a «la nueva normalidad», con sistemas de detección y recomendación de fraude que luchan por comprender los cambios en el comportamiento humano provocados por el COVID-19. A pesar de que la IA está valorada como el disruptor de casi todo, sus métodos más populares a menudo están limitados por la dependencia de los grandes conjuntos de datos y su falta de interpretabilidad. La mayoría de las cuestiones que realmente nos importan son demasiado complejas y se encuentran dentro de estas limitaciones.
Todo esto nos impide enfocar la IA hacia problemas que podrían generar un mayor impacto social y distribuir así los beneficios más ampliamente; lo que llamamos IA de interés público. Las elecciones que hagamos ahora acerca de cómo dirigir la IA darán forma a la vida de las generaciones futuras. Es por ello que se requiere acción en múltiples niveles para evitar hacer mejoras incrementales dentro de un sistema averiado.
Desde Nesta, se solicita más imaginación y experimentación con vistas a prepararse para un futuro habilitado para la IA. Se pretende construir una coalición con otros grupos que apoyen su visión.
Las siguientes cuatro acciones resultan vitales para lograr un IA de interés público, y vienen acompañadas de determinadas acciones para poder ponerlas práctica.
1. Construir una base de evidencia más sólida sobre el estado actual de la IA.
A medida que la investigación y la adopción de IA cambian a una velocidad vertiginosa, nuestra comprensión sobre quién está haciendo qué y qué impacto podrían tener las diferentes actividades, está aún incompleta. También falta claridad respecto a cómo detectar las mayores oportunidades y sus riesgos. Comprender hacia dónde apunta el campo de la IA y el modo de dirigir su trayectoria de una manera que beneficie a la sociedad – evitando sesgos y desigualdades de codificación dura -, requiere una inteligencia algo superior.
Nesta utiliza la minería de datos, la ciencia de redes y el aprendizaje automático para rastrear las trayectorias del desarrollo y uso de la IA. El mapeo de estas tendencias en tiempo real ayuda a comprender más claramente su impacto, tanto positivo como negativo. El informe NESTA, que forma parte de la agenda de trabajo para mejorar la IA, analiza cómo ésta se ha adaptado al COVID-19, sugiriendo que podría estar siendo infrautilizada. Cuando se ha aplicado, los investigadores han recurrido menos a otras disciplinas, lo que aumenta el riesgo de poder reinventar la rueda o ignorar los complejos contextos sociales en los que se podrían implementar sus tecnologías.
Otro trabajo para construir una base de evidencia más sólida incluye la reciente colección de ensayos sobre el uso de IA en los servicios públicos de China, que destaca la importancia de adoptar una perspectiva global cuando lo que se busca es comprender las tendencias en IA. Del mismo modo, su investigación sobre la próxima generación de Internet explora las fuerzas competidoras que están dando forma al futuro de Internet y de IA.
A medida que la IA se convierta en parte de nuestra vida cotidiana, tendrá un impacto mayor sobre nuestra manera de aprender y trabajar. Algunas de las formas que hemos buscado para comprender estos cambios incluyen una investigación sobre el futuro de la IA en las escuelas y colegios en el Reino Unido. Asimismo, el programa Open Jobs utiliza enfoques novedosos para analizar los datos del mercado laboral, a fin comprender el verdadero impacto de la automatización en nuestros trabajos y habilidades profesionales.
2. Dirigir recursos hacia dónde se pueda generar un mayor impacto social.
La IA sigue siendo una de las áreas mejor financiadas para la investigación y el desarrollo tecnológico. Sin embargo, el mercado está dominado por aplicaciones comerciales y militares, con relativamente poco soporte para soluciones basadas en una IA que pueda resolver algunos de nuestros mayores desafíos sociales, a pesar de la inversión de miles de millones de euros. Así, por ejemplo, encontramos muy poca investigación relativa a IA que se focalice en sectores donde la automatización puede causar un mayor impacto social, aun cuando esa evolución pudiera tener un efecto negativo en las vidas de millones de personas. En la misión contra el COVID-19, la mayoría de las investigaciones sobre IA se han centrado principalmente en el ajuste de las aplicaciones existentes, en lugar de pensar de manera más estratégica cómo implementarla para lograr el mejor resultado en la lucha contra la pandemia.
NESTA busca liderar con el ejemplo este área, promoviendo programas de financiación con criterios de impacto social, como su reciente fondo AI for Good en Escocia y las Subvenciones de Inteligencia Colectiva, que respaldan experimentos de vanguardia sobre el uso de la IA para permitir que grupos de personas resuelvan desafíos sociales juntos. También NESTA ha respaldado la innovación de IA aplicada a la educación y atención médica a través de sus inversiones.
3. Utilizar IA para permitir que grupos de personas piensen y actúen de manera más inteligente.
Una de las grandes lagunas en nuestra comprensión de la IA es el modo en que se relaciona con la inteligencia humana colectiva. La mayoría de las aplicaciones de IA se centran en replicar las capacidades humanas a través de un conjunto limitado de tareas que «reemplazan» o hacen que los individuos sean más eficientes al realizar una tarea. Sin embargo, se ha prestado mucha menos atención a cómo utilizarlas para permitir que grupos de personas piensen y actúen conjuntamente de manera más inteligente, o para combinar mejor la inteligencia humana y las máquinas a la hora de abordar problemas complejos. A pesar de los avances de las tecnologías digitales que hoy nos conectan más que nunca, estamos todavía muy lejos de aprovechar al máximo los esfuerzos colectivos; pero la IA puede ayudar.
Se puede utilizar, por ejemplo, para simplificar la distribución de tareas, habilidades e información dentro de los equipos; o para simular la complejidad del mundo ayudándonos a desarrollar modelos mentales compartidos durante la toma de decisiones. Esto requiere mucha más imaginación para pensar sobre el valor de la IA y saber en qué priorizar la financiación.
A través del Centro de Diseño de Inteligencia Colectiva, se está construyendo una comunidad de prácticas para experimentar con estas ideas y explorar otras visiones alternativas para la IA. La investigación de NESTA sobre el futuro de las mentes y las máquinas analiza cómo la inteligencia artificial puede mejorar la colectiva, y cómo los métodos participativos pueden introducir principios de diversidad y valor colectivo en el desarrollo de la IA.
4. Involucrar a una gama más amplia de personas y voces en la configuración de la IA.
La IA puede reflejar las injusticias que existen en nuestra sociedad. Los datos que potencian los algoritmos detrás de la IA son capaces de reforzar los prejuicios y las prácticas pasadas de moda. Como tal, el despliegue de ciertas aplicaciones de IA nos ha obligado a afrontar problemas de desigualdad sistémica y a examinar los valores que poseemos como sociedad. Tal y como ha demostrado el reciente debate sobre el reconocimiento facial, la acción colectiva puede ayudar a determinar la manera de pensar de las grandes empresas y desarrolladores sobre el uso de la IA.
Para garantizar una IA más justa y representativa, necesitamos valorar el poder redistribuido, generando más oportunidades para una gama mucho más amplia de personas y voces, dando forma y dirigiendo el futuro de la IA con el fin de conocer cómo afectará a nuestra forma de vida. Este desafío se ve ilustrado por una investigación sobre la falta de diversidad de género en la IA, y muestra que menos del 14% de toda la investigación de IA está realizada por mujeres.
Una forma de poder garantizar una mayor representación es a través de «Futuros Participativos»; herramientas y métodos que ayuden a las personas a desarrollar servicios y productos para el futuro, con objeto de conocer cómo ser más inclusivos y diversos en el proceso. Otra manera de ayudar es a través del Premio Longitude Explorer, cuyo objetivo es alentar a los jóvenes a experimentar y dar forma a los sistemas de IA, invitando a niños y niñas de 11 a 16 años a presentar sus ideas sobre soluciones habilitadas para IA que mejoren la vida de los demás.
El ritmo y la disrupción causados por la IA requieren un nuevo planteamiento de las políticas y regulaciones. Se está trabajando activamente con los reguladores y los gobiernos para promover un enfoque de regulación más anticipatorio e inclusivo, por ejemplo, a través del desafío de accesos legales.
Allanando el camino para un futuro mejor.
La crisis de salud global ha puesto a prueba los límites de nuestros sistemas actuales, resaltando la importancia vital de la acción colectiva para la preparación, la innovación y la toma de decisiones durante las emergencias.
Ahora es el momento de hacer una pausa y un balance de los futuros en los que las trayectorias actuales de IA nos están bloqueando, trabajando en una visión alternativa. Con ello, estaremos en mejor posición para enfrentarnos a una próxima emergencia global, ya sea relacionada con la salud, la economía o la crisis climática. Se requerirá construir una base de evidencia sólida mientras estudiamos cómo dirigir la IA de forma que nos ayude a pensar y actuar juntos de manera más inteligente, así como para difundir las oportunidades y beneficios abiertos a toda la sociedad. También será necesaria una buena dosis de imaginación: debemos comenzar a narrar diferentes historias sobre el futuro de la IA.
Gran parte de todo esto es territorio desconocido, y no existen respuestas claras ni correctas. Estamos experimentando, tanto a la hora de probar nuevos métodos de ciencia de datos como con subvenciones de financiación que unen AI y CI de forma novedosa, por lo que es probable que surjan obstáculos en el camino. La ambición y el alcance de este esfuerzo, así como la omnipresencia de la IA en numerosos sectores y tipos de experiencia, implica la necesidad de buscar aliados que trabajen en equipo para lograr esta visión.
Si un mayor número de sistemas de IA se construyeran con una mejor supervisión y se focalizaran sobre problemas importantes para las personas – como coordinar recursos para la atención social o reducir la desigualdad socioeconómica -, hubiéramos podido adaptarnos más rápidamente y haber mitigado los impactos dispares del COVID-19.
Si quieres recibir nuestro newsletter y nuestros artículos por correo electrónico, rellena y envía el boletín adjunto, por favor, completando el campo correspondiente en el formulario de inscripción que encontrarás a continuación. Tu dirección de correo electrónico (asegúrate por favor de escribirla correctamente), será utilizada exclusivamente para enviarte nuestros newsletters y artículos, pudiendo darte de baja en el momento que quieras. Si no te llega tu confirmación de suscripción podría estar archivada en tu carpeta de spam.
