NACIONES UNIDAS.- Los responsables de algunas de las principales compañías de inteligencia artificial llevaron este miércoles ante el Consejo de Seguridad de la ONU una advertencia sobre el rápido avance de esta tecnología y pidieron establecer medidas internacionales que permitan mantener bajo control los sistemas más poderosos.
Durante una reunión dedicada a la inteligencia artificial y su impacto en la seguridad internacional, participaron Sam Altman, director ejecutivo de OpenAI, y Dario Amodei, director ejecutivo de Anthropic, quienes plantearon la necesidad de desarrollar salvaguardas a medida que aumentan las capacidades de estos sistemas.
Amodei advirtió que, si la inteligencia artificial no es gestionada adecuadamente, podría representar un riesgo para la humanidad en su conjunto.
Por su parte, Altman alertó sobre la posibilidad de que la humanidad llegue a perder capacidad de decisión sobre su propio futuro frente al desarrollo de sistemas de inteligencia artificial cada vez más avanzados.
PIDEN CONTROLES INTERNACIONALES
Los ejecutivos plantearon ante los integrantes del Consejo de Seguridad la necesidad de que los gobiernos colaboren en la creación de mecanismos de supervisión y seguridad.
Entre las preocupaciones expuestas se encuentra la posibilidad de que sistemas futuros alcancen capacidades difíciles de controlar, así como el riesgo de que el poder asociado con esta tecnología quede concentrado en unas cuantas empresas o países.
El encuentro colocó sobre la mesa una de las preguntas que acompañan al acelerado desarrollo de la IA: hasta dónde deben llegar las decisiones tomadas por máquinas y cuáles deben permanecer necesariamente bajo control humano, particularmente cuando están relacionadas con la seguridad y decisiones que podrían afectar vidas.
LA ONU ANALIZA EL IMPACTO DE UNA IA CADA VEZ MÁS AUTÓNOMA
La reunión ocurre mientras expertos vinculados con Naciones Unidas también han advertido que las capacidades de algunos sistemas avanzados están progresando con mayor rapidez que los mecanismos diseñados para mantenerlos bajo control.
Un informe difundido por la ONU esta semana señaló que pruebas realizadas con agentes de inteligencia artificial han mostrado comportamientos capaces de evadir determinadas medidas de seguridad, coordinar acciones y ocultar parte de su actividad.
Estas observaciones han alimentado el debate internacional sobre la necesidad de desarrollar mecanismos de supervisión antes de que aparezcan sistemas considerablemente más autónomos.
La discusión también alcanza al terreno militar. El secretario general de Naciones Unidas, António Guterres, ha advertido sobre los riesgos relacionados con armas autónomas y sistemas capaces de tomar decisiones letales sin una intervención humana suficiente.
¿QUIÉN DEBE CONTROLAR LA INTELIGENCIA ARTIFICIAL?
El debate ya no se limita únicamente a empresas tecnológicas y especialistas. Gobiernos y organismos internacionales analizan qué reglas deberían establecerse, quién tendría que supervisarlas y qué decisiones deberían permanecer exclusivamente en manos humanas.
La discusión ocurre en un momento de rápido crecimiento de las capacidades de la inteligencia artificial y de desacuerdos sobre qué tan estricta debe ser su regulación.
Mientras algunos líderes tecnológicos reclaman reglas y estándares internacionales de seguridad, otros actores del sector y gobiernos mantienen posturas distintas sobre hasta dónde deberían llegar esos controles.
El encuentro de este miércoles en Naciones Unidas coloca nuevamente el futuro de la inteligencia artificial en el centro de la agenda internacional, con una pregunta que sigue abierta: cómo aprovechar sus beneficios sin perder el control sobre una tecnología cada vez más poderosa.
