Por María Ángela Prialé – Vicedecana de Administración de la Universidad del Pacífico
En una carta abierta publicada el 30 de marzo pasado, más de 1,000 expertos, incluidos Elon Musk y Steve Wozniak, solicitaron una pausa inmediata en el adiestramiento de sistemas como el GPT-4 por un periodo no menor a seis meses. Los firmantes, sugirieron a los gobiernos intervenir y decretar una suspensión, si esta pausa no se daba voluntaria y rápidamente. Producto de esa acción volvía a ganar protagonismo mediático un debate, ya no tan nuevo, acerca del efecto de la IA en nuestras vidas.
Los más cautos señalan una lista de riesgos en la extensión acelerada del uso de la IA que van desde el reemplazo de 300 millones de empleos a tiempo completo (aunque otros nuevos podrían crearse) hasta los problemas éticos relacionados con la privacidad de la información. Los entusiastas defienden su potencial aporte al bienestar a través de la mayor eficiencia y productividad en rubros como la atención médica, la seguridad o la protección ambiental.
Más allá de estos argumentos, opinar sobre un asunto tan complejo, requiere ampliar el marco de análisis y responder a la pregunta ¿Cuál es el efecto que la IA en el progreso y bienestar humano en todas sus dimensiones? Para hacerlo hace falta definir con claridad qué es la IA. Además, es clave asociar su impacto con indicadores que capturen la noción de desarrollo humano sostenible.
¿Qué es la IA?
IA es cualquier tecnología de software con al menos una de las siguientes capacidades: percepción (auditiva, visual, textual o táctil), toma de decisiones (p.ej. sistemas de diagnóstico médico), predicción (p.ej. pronóstico del clima), extracción automática de conocimientos y reconocimiento de patrones a partir de datos (p.ej. descubrimiento de noticias falsas en las redes sociales), comunicación interactiva (p.ej. chat bots), y razonamiento lógico (p.ej. desarrollo de teorías a partir de premisas). Su definición abarca una gran variedad de subcampos, incluido el aprendizaje automático.
Efectos de la IA en los Objetivos de Desarrollo Sostenible (ODS)
Los 17 Objetivos de Desarrollo Sostenible (ODS) y sus 164 metas, son un buen marco analítico para evaluar el impacto de la IA ya que entregan indicadores de bienestar concretos y consensuados globalmente, que conforman una hoja de ruta oficial hacia la construcción de un mundo más próspero y respetuoso de los límites naturales del planeta.
Bajo ese entendido, un trabajo académico publicado en 2020 concluye que la IA puede actuar como activadora de 134 metas en todos los ODS y como inhibidora de 59. Los números parecerían fortalecer la posición de los entusiastas defensores de la IA. No obstante, los mismos autores del estudio recomiendan cautela por dos razones. La primera, los posibles sesgos en las investigaciones que soportaron sus conclusiones, sesgos que pueden originarse en el interés de académicos y de la industria por publicar solo resultados positivos, la necesidad de mayores plazos para descubrir los aspectos perjudiciales y/o la exploración de la problemática solo en los países desarrolladores de IA. La segunda razón es la variedad de impactos duales de la IA en los ODS, es decir, impactos que pueden ser al mismo tiempo inhibidores y activadores del logro de las metas de los ODS. Solo tres ejemplos:
- La IA facilita la construcción de ciudades inteligentes con bajas emisiones de carbono, lo cual activa el logro de algunas metas del ODS 11 (Ciudades sostenibles), pero, al mismo tiempo, aplicar esas tecnologías masivamente requiere grandes instalaciones de gestión de datos con enormes necesidades energéticas y emisión de carbono; inhibiendo el logro de metas del ODS 13 (Acción por el clima) y del mismo ODS 11.
- El uso de equipos agrícolas altamente tecnificados gracias a la IA aporta al logro de algunas metas del ODS 2 (Hambre cero) y del ODS 8 (Trabajo decente y crecimiento económico), pero por sus elevados costos de adquisición, también agudiza brechas, inhibiendo el logro del ODS 10 (Reducción de desigualdades), entre el pequeño y gran agricultor, especialmente en los países más pobres.
- El uso de la IA para conocer las debilidades psicológicas de la población puede ser un instrumento valioso para el control de grupos violentos, pero también es un arma que puede dañar la cohesión social, los principios democráticos e incluso los derechos humanos, al polarizar de las decisiones políticas (caso Cambridge Analytica). En este ejemplo, la IA activa e inhibe al mismo tiempo el logro de metas asociadas a un mismo ODS 16 (paz, justicia e instituciones sólidas).
¿En este escenario, qué podemos concluir y cómo podemos avanzar?
En primer lugar, hace falta más y menos sesgada investigación, si las tecnologías de IA se diseñan y desarrollan solo para entornos tecnológicamente avanzados, y son financiadas solo por los propios creadores de la tecnología, tienen el potencial de no contemplar problemas, como los vinculados a la generación de brechas, en especial en los países menos ricos.
En segundo lugar, los desafíos de la dualidad se deben abordar frontalmente, por ejemplo, a través de regulación e implementación de sistemas de control adecuados. Para ello se requiere ampliar la capacidad regulatoria de los estados, especialmente los institucionalmente más débiles, por medio de la incorporación de expertos en AI en sus equipos técnicos. De lo contrario, el regulador siempre irá por detrás de los avances de la industria. En esa línea una base común a manera de directrices o acuerdos impulsado por Naciones Unidas, podría resultar útil. Algunos países están avanzando en esa dirección. Estados Unidos ha anunciado que la investigación en IA será observada de cerca por la Comisión Federal de Comunicaciones y la Comisión Europea ha presentado un marco regulatorio para la IA que propone un enfoque basado en la evaluación del riesgo y la clasificación de las aplicaciones de IA según su impacto en la sociedad.
Finalmente, hace falta reconocer que nos encontramos en un punto de quiebre y que las decisiones que tomemos sobre la gestión de los avances de la IA requieren ser multistakeholder. Del acierto de esas decisiones dependerá que el desarrollo de la IA sea la oportunidad que todos esperamos de avanzar en el progreso social. A medida que la IA continúa evolucionando y “aprendiendo”, es probable que el debate se anime. La pausa de seis meses quizá no sea suficiente para regular su avance, pero aún más importante que la norma, será pensar si será factible controlar el cumplimiento de tal regulación.