El pasado 23 de septiembre en el Consejo de Seguridad de las naciones Unidas recibió una solicitud por parte de Yoshua Bengio, profesor de la Universidad de Montreal quién es considerado uno de los padrinos de la IA, así como Dario Amodei, Sam Altman y Clément Delangue, directores ejecutivos de Anthropic, OpenAI y Hugging Face, respectivamente; para solicitar que todos los gobiernos del mundo establezcan controles efectivos a los modelos de Inteligencia Artificial más avanzados.
Esta petición se realizó en el marco de la sesión más reciente de la Asamblea General de la ONU, en la cual un gran número de voces piden frenar el desarrollo de esta tecnología, hasta que sea segura. Estas figuras relevantes del sector informaron sobre las amenazas que representa la Inteligencia Artificial si avanza sin control alguno
Riesgos e injusticias en caso de perder el control
Amodei enfatizó que un manejo inadecuado de esta tecnología compromete la seguridad global. Dichas advertencias coincidieron con la postura de Altman, quien subrayó la urgencia de aplicar medidas antes de perder el control humano sobre estos sistemas “podríamos perder el control del futuro a manos de la IA”
Delangue aseguró que el mayor riesgo no es, solamente, el desarrollo de un modelo con grandes capacidades, sino en el buen y mal uso que hacen algunos de estas tecnologías. También resaltó, las desigualdades existentes entre empresas y Estados para defenderse ante los ciberataques de nueva generación. Ante este escenario, insistió en promover la transparencia en el desarrollo e incentivar modelos abiertos, afirmando que “el mundo necesita la IA de código abierto más que nunca para defenderse”.
Bengio advirtió sobre tales peligros, clasificándolos como una “amenaza sin precedentes” capaz de trascender cualquier frontera, lo que imposibilita que una nación logre encararla de manera aislada.
¿Quién regulará la tecnología?
Ante estas afirmaciones, surgen diversas interrogantes acerca de las entidades aptas para supervisar estos avances que pueden salirse de nuestras manos. Resulta incierto si las grandes empresas informáticas aceptarán marcos regulatorios restrictivos que limiten sus avances, considerando además si las naciones poseen recursos suficientes para respaldar un ecosistema digital enteramente confiable.
Pese a las coincidencias conceptuales sobre estos riesgos, diversos expertos sostienen que difícilmente algún Estado o empresa privada frenará su progreso, impulsados por la constante zozobra de perder ventaja competitiva.
¿Estrategia publicitaria y temor injustificado?
Los escépticos consideran que este creciente alarmismo en torno a la Inteligencia Artificial, es una estrategia de mercadeo con un fin claro: influir en la regulación de la tecnología, considerando que el verdadero peligro no está en su avance, sino en el uso que se le da por parte de los usuarios.
El Secretario General de las Naciones Unidas, António Guterres, señaló que si bien cada Estado debe regular a las empresas de Inteligencia Artificial en su territorio, resulta vital alcanzar una coordinación internacional para consolidar una gobernanza sólida en este ámbito. En este sentido, planteó la necesidad de que las naciones líderes en innovación tecnológica estructuren canales de diálogo, compartan datos clave y adopten garantías unificadas, impidiendo así que surja “un desastre gigantesco a nivel mundial”.
En este sentido, enfatizó que “si creemos que el desarrollo de la IA debe ralentizarse cuando los riesgos se vuelven demasiado grandes, necesitamos algo más que buenas intenciones”.