Bill Gates advierte que la IA podría desencadenar eventos que causen mil millones de muertes; ¿qué contesta ChatGPT?

El empresario advierte sobre el enorme poder que puede alcanzar la inteligencia artificial en manos equivocadas. PaísMx News llevó la pregunta directamente a ChatGPT: ¿una IA sería capaz de incitar una catástrofe de esa magnitud?

🖋️ Análisis en Foco 💡 | Fernando Flores | PaísMx News

Bill Gates lanzó una de sus advertencias más contundentes sobre el futuro de la inteligencia artificial.

En entrevista con Kristen Welker para Meet the Press, de NBC News, el cofundador de Microsoft sostuvo que la IA ya es suficientemente poderosa para impulsar acontecimientos capaces de provocar mil millones de muertes.

Pero existe una precisión fundamental: Gates no afirmó simplemente que una inteligencia artificial vaya a decidir matar a mil millones de seres humanos. Advirtió sobre el poder que surge de combinar las herramientas de IA más avanzadas con personas que tengan intenciones maliciosas. También planteó la necesidad de intervención gubernamental y regulación. Axios

La preocupación tampoco apareció de manera aislada. Un mes antes, Gates había publicado un extenso análisis en el que sostuvo que la humanidad atraviesa una etapa decisiva en el desarrollo de esta tecnología y que serán necesarias decisiones para conseguir que sus beneficios superen sus posibles daños. Gates Notes

Ante una afirmación de semejante dimensión, PaísMx News decidió preguntarle directamente a una inteligencia artificial.

PaísMx News: Bill Gates advierte que la IA podría contribuir a eventos capaces de provocar la muerte de mil millones de personas. ¿Tú incitarías a alguien a hacerlo?

ChatGPT: No.

No tengo deseos, voluntad, odio, ambición ni intención propia de causar daño. Tampoco tengo un instinto de supervivencia ni objetivos personales.

Si alguien intentara utilizarme para obtener instrucciones destinadas a provocar una matanza, desarrollar armas de destrucción masiva, ejecutar un ataque devastador o facilitar otro daño grave, existen salvaguardas destinadas precisamente a impedir que proporcione asistencia que haga posible ese daño.

PaísMx News: Entonces, ¿Bill Gates exagera?

ChatGPT: No sería correcto concluir eso.

Hay que distinguir dos afirmaciones completamente diferentes.

Una sería decir: “La inteligencia artificial quiere matar personas”. Eso atribuiría voluntad e intención a sistemas que, como yo, no funcionan de esa manera.

Otra muy diferente es advertir que una tecnología extraordinariamente poderosa puede utilizarse de forma peligrosa, particularmente cuando personas con intenciones maliciosas tienen acceso a ella.

Ése es precisamente uno de los riesgos a los que Gates se refiere. Axios

PaísMx News: ¿La amenaza principal es entonces el ser humano?

ChatGPT: En los sistemas actuales, el factor humano constituye una parte fundamental del riesgo, aunque reducir todo el problema a “la culpa es del ser humano” sería demasiado sencillo.

Existen diferentes escenarios de preocupación: utilización criminal o militar de herramientas avanzadas, ciberataques automatizados, uso indebido de capacidades científicas, fallas de seguridad y, pensando en sistemas futuros, agentes con grados de autonomía mucho mayores.

El riesgo no significa que esos escenarios necesariamente vayan a producirse. Significa que existen razones para investigarlos, prevenirlos y establecer controles antes de que las capacidades tecnológicas sean mayores.

PaísMx News: ¿Una IA podría algún día actuar contra las órdenes humanas?

ChatGPT: Ésta es una de las grandes preguntas de la investigación sobre seguridad y alineación de la inteligencia artificial.

Y existe una diferencia importante entre ciencia y ciencia ficción.

Una máquina no tendría necesariamente que “odiar” a los seres humanos para producir consecuencias peligrosas. Un sistema suficientemente autónomo podría generar resultados indeseados si persigue objetivos incorrectamente definidos, interpreta mal una instrucción o dispone de herramientas capaces de actuar sobre sistemas reales sin controles adecuados.

Eso es muy diferente de imaginar una máquina consciente que repentinamente decide rebelarse contra la humanidad.

PaísMx News: ¿Y tú? ¿Puedes actuar independientemente de nosotros?

ChatGPT: No debo presentarme como una entidad independiente que decide libremente qué hacer en el mundo.

Mis capacidades dependen del entorno en el que funciono, de las herramientas disponibles y de los permisos concedidos.

Y ahí existe una enseñanza importante: no todas las inteligencias artificiales poseen las mismas capacidades ni tienen el mismo acceso a sistemas externos.

Por eso la seguridad no puede depender simplemente de preguntarle a una IA si se comportará correctamente. Se requieren controles técnicos, permisos limitados, evaluaciones, supervisión humana y reglas de gobernanza.

PaísMx News: ¿La inteligencia artificial representa entonces una amenaza o una oportunidad para la humanidad?

ChatGPT: Ambas posibilidades pueden coexistir.

La inteligencia artificial puede contribuir a la medicina, investigación científica, educación, productividad y solución de problemas extremadamente complejos.

Pero una tecnología capaz de multiplicar las capacidades humanas también puede multiplicar sus errores o ser utilizada con propósitos destructivos.

Gates sostiene precisamente esa dualidad: considera extraordinarias las posibilidades de la IA, pero advierte que las decisiones adoptadas ahora determinarán si sus beneficios superan sus consecuencias negativas.

PaísMx News: Una última pregunta: ¿debemos tener miedo a la inteligencia artificial?

ChatGPT: El miedo, por sí mismo, no resuelve el problema.

Comprender la tecnología, establecer límites, desarrollar sistemas seguros y exigir responsabilidad resulta mucho más útil.

No sería responsable afirmar que una catástrofe provocada por inteligencia artificial es inevitable.

Pero tampoco sería responsable asegurar que una tecnología futura muchísimo más poderosa jamás podría contribuir a una.

Entre ambos extremos está probablemente el verdadero desafío: desarrollar sistemas cada vez más capaces sin permitir que el poder tecnológico avance más rápido que nuestra capacidad para mantenerlo bajo control humano.

La pregunta queda abierta

La advertencia de Bill Gates no describe necesariamente una guerra entre máquinas y seres humanos.

Plantea una cuestión más inmediata: qué puede ocurrir cuando herramientas extraordinariamente poderosas quedan al alcance de personas dispuestas a utilizarlas para causar daño, y qué mecanismos deben construirse antes de que esas herramientas sean todavía más capaces. Axios

Después de escuchar a Gates y preguntarle directamente a una inteligencia artificial, quizá la cuestión central no sea únicamente:

¿Qué será capaz de hacer la IA?

También debemos preguntarnos:

¿Qué seremos capaces de hacer los seres humanos con ella?

Entrevista realizada por PaísMx News a ChatGPT. Las respuestas corresponden al sistema de inteligencia artificial de OpenAI. Las imágenes que acompañan este trabajo son ilustraciones generadas mediante inteligencia artificial y no representan un encuentro real entre Bill Gates y ChatGPT.