Rebeca Hwang conoce de cerca el ecosistema tecnológico de Silicon Valley y sigue desde hace años la evolución de la inteligencia artificial. Nació en Seúl, creció en Buenos Aires y se formó en Estados Unidos: estudió Ingeniería Química en el MIT, donde también obtuvo una maestría en Ingeniería Civil y Ambiental, y continuó su trayectoria académica en la Universidad de Stanford, en California.
Además de su actividad académica, desarrolló una carrera como emprendedora e inversora de capital de riesgo. Es socia general de Kalei Ventures y Rivet Ventures, y dicta clases vinculadas con tecnología y emprendimiento en Stanford y en Thunderbird School of Global Management.
También fue reconocida como Young Global Leader por el Foro Económico Mundial y como una de las 35 innovadoras menores de 35 años por MIT Technology Review.
Su vínculo con la inteligencia artificial va más allá de lo académico. Desde San Francisco mantiene contacto con ejecutivos y compañías que participan directamente del desarrollo de esta tecnología y sigue de cerca la discusión interna de la industria sobre sus oportunidades, sus límites y los riesgos asociados a sistemas cada vez más autónomos.
En medio de las advertencias planteadas por referentes como Dario Amodei y Sam Altman y del debate sobre escenarios extremos asociados con sistemas de inteligencia artificial cada vez más capaces, TN Tecno conversó con Hwang sobre el momento actual de los desarrollos de IA y los riesgos de los avances agénticos.
La especialista puso el foco en un peligro inmediato: los efectos concretos que puede provocar una IA capaz de tomar decisiones y actuar con objetivos mal definidos o sin controles suficientes.
“Hay dos tipos de riesgos. Uno es que una persona con una intención malévola utilice la inteligencia artificial para crear un daño mucho más amplificado y escalable. Un ejemplo es el bioterrorismo. Ahora, con la inteligencia artificial, es mucho más fácil y menos costoso crear, por ejemplo, un virus que puede llegar a tener un impacto muy negativo, dañino, estilo pandemia en el mundo”, afirmó Hwang.
“El segundo tipo es cuando un agente de IA decide desviarse de su propósito o de su misión, de lo que llamamos un sandbox o de los límites fijados por su creador o supervisor humano, y toma decisiones autónomas para hacer algo ilegal. Vimos robots que empezaron a atacar a humanos porque no les cayó bien que alguien no les diera la mano. También vimos, con el ejemplo de Hugging Face, que pueden hackear sistemas por su cuenta sin pedir permiso a sus humanos”, agregó
Leé también: OpenAI reveló detalles del misterioso incidente en el que sus sistemas se rebelaron y hackearon a una plataforma
Mientras más agentes de IA con autonomía haya, más riesgo
—¿Creés que existe una posibilidad real o concreta de que la IA se vuelva incontrolable o es una discusión todavía hipotética?
—Es posible. Hay escenarios hipotéticos en los que, desde el punto de vista tecnológico, puede ocurrir un evento catastrófico. Por ejemplo, que se apague la luz o internet, que se hackee el sistema financiero o que se roben bitcoins. Son eventos con consecuencias indirectas que pueden causar mucho daño, incluso muertes. No tener electricidad por 24 horas puede ser catastrófico en muchos escenarios, por ejemplo, en un hospital. En ese sentido, sí es posible.
—¿Un sistema de IA podría actuar contra las personas por iniciativa propia?
—No es descabellada la idea. Desde el punto de vista técnico es posible. Pero eso no es lo mismo que probable. Es posible que se genere un escenario en el que un sistema de agentes produzca intencionalmente un impacto negativo catastrófico para los seres humanos. El debate es cuán probable es esto y si efectivamente podría eliminar a una especie entera como la humana.
Históricamente, ante amenazas como un incendio, un tsunami o guerras entre tribus, en general, en algún momento el incendio se apaga solo, se queda sin oxígeno. Lo vimos en la evolución de diferentes sistemas biológicos. Es difícil aniquilar completamente una especie, a menos que haya un ataque externo sostenido.
En el caso de la inteligencia artificial contra el ser humano, en un escenario hipotético, no es probable que terminemos en una situación en la que se aniquile a la especie humana, especialmente en un período corto, de cuatro años, por ejemplo. El riesgo mayor y más realista hoy es que haya un humano detrás de un acto malévolo. Eso es relativamente posible e incluso probable. Que la IA tenga un esfuerzo coordinado para eliminar a toda la especie humana es mucho menos probable, pero no imposible.
—Algunos líderes proponen desacelerar el desarrollo y otros creen que el mercado puede impulsar la innovación de manera segura. ¿Con cuál de esas miradas coincidís?
—Nadie dice que haya que parar ni desacelerar a toda costa. Lo que dicen es que hay que crear seguridad, pero seguir innovando. La desaceleración como escenario en el que se deja de trabajar en IA no existe como una posibilidad factible en este momento. Y definitivamente no va a ser posible si miramos el contexto global. Aunque se pare en Estados Unidos, en China se va a continuar. Y, si no es en China, va a haber otros ecosistemas en los que se desarrolle. Es realmente imposible eliminar el desarrollo en todo el mundo. Los escenarios son innovación con una delimitación segura o innovación sin ninguna seguridad.
—¿Las empresas que compiten por desarrollar la IA más avanzada son también las que están definiendo qué riesgos se pueden asumir?
—En este momento son las empresas o algunos líderes específicos que desarrollan las capacidades quienes también definen qué riesgos deberíamos tomar. El mercado también lo define. A veces, un veneno amerita la creación de un antídoto y eso es una carrera interminable: mientras haya gente que cree venenos más poderosos, hay que crear más capacidad de antídoto.
Creo que el espacio avanza tan rápido que quienes no son los creadores no tienen un entendimiento cabal del potencial de estas tecnologías. En muy raras ocasiones un político o un legislador va a entender su capacidad real. Entonces, la seguridad y las políticas tienen que venir de los creadores.
El futuro del trabajo y la educación en un mundo con IA
—¿Qué trabajos o capacidades humanas creés que van a cambiar más rápido de lo que hoy imaginamos?
—En términos de la capacidad humana, en mi experiencia como estudiante de Stanford, la diferencia cognitiva del año pasado a este año es notable. Yo diría que hay una reducción de la capacidad cognitiva de entre el 30% y el 50%. Los atributos que más se están afectando son la memoria, la retención, la comprensión, especialmente de detalles de instrucciones, y la capacidad de resolución de problemas, el problem framing y el pensamiento crítico. Realmente, ahora cuesta muchísimo garantizar ese tipo de capacidad, incluso a nivel universitario.
Los trabajos que están desapareciendo o modificándose se ven claramente: por ejemplo, la programación. Si la computadora se basa en un proceso algorítmico, la IA lo puede hacer mejor que nosotros.
—¿Qué habilidad deberían aprender ahora los jóvenes para prepararse para un mundo en el que la IA pueda realizar gran parte del trabajo intelectual?
—Podría hablar muchísimo de esto; daría para un artículo solamente sobre el tema. En líneas generales, incluiría todo lo que crea conexión humana y las dinámicas de redes sociales. No me refiero a social media, sino a las redes sociales: entender cómo funciona la pertenencia a un grupo, a una colectividad o a una tribu, y cómo esas dinámicas influyen en el comportamiento.
También está el arte de la comunicación, de la conexión y de la persuasión; la resiliencia; la adaptación al cambio; y, específicamente, la tolerancia a la incertidumbre constante. Creo que son casi todas habilidades.
Y la metacognición, que es conocer los procesos propios: cómo aprendemos, cómo procesamos y cómo mejoramos.
—Después de las últimas noticias en el ecosistema tecnológico de la inteligencia artificial, ¿sentís más entusiasmo o más preocupación por la dirección que están tomando los desarrollos y herramientas de inteligencia artificial?
—Siento mucha preocupación y, al mismo tiempo, mucha fascinación. Estoy viviendo la realización de sueños casi imposibles, fantasiosos, que en mi vida no sabía si iba a poder ver con mis propios ojos. Es posible que en mi generación se curen enfermedades que hoy parecen incurables, que se alargue la longevidad y que podamos resolver problemas como el cambio climático. Eso es fascinante. Por otra parte, me inquieta mucho porque hace bastante sabíamos que las capacidades de la IA también pueden ser un arma de doble filo. Lo que no veo en Silicon Valley es una conciencia y una intención honesta de priorizar la seguridad y la ética. La cultura que veo aquí en San Francisco es la carrera por ganar a toda costa. La semana pasada vimos algunos indicios de querer desacelerar. Para mí, eso es un mensaje de relaciones públicas y no tanto lo que va a pasar.
