Inteligencia Artificial: un caso para el Consejo de Seguridad de la ONU

La Subsecretaria General de Comunicaciones Globales, Melissa Fleming, hizo un llamado a los desarrolladores de IA generativa para que prioricen la seguridad y los derechos humanos sobre el beneficio en una reunión de la “Fórmula Arria“ del Consejo de Seguridad. La reunión sobre la Inteligencia Artificial y su impacto en el discurso de odio, la desinformación y la información errónea fue copresidida por los Emiratos Árabes Unidos y Albania y contó con las perspectivas de los expertos digitales Rahaf Harfoush y Jennifer Woodard. En su discurso, la Sra. Fleming señaló que la IA generativa, si se desarrolla y utiliza de manera responsable, tiene el potencial de mejorar los derechos humanos, incluyendo el acceso a la información, la salud, la educación y los servicios públicos. Sin embargo, expresó una profunda preocupación por el potencial de la tecnología para “intensificar dramáticamente los daños en línea“. Con la IA generativa, se pueden crear a gran escala grandes volúmenes de desinformación convincente, desde texto hasta audio y video, a muy bajo costo y con mínima intervención humana. Dicho contenido puede distribuirse en masa, no solo a través de las redes sociales y mediante perfiles falsos, sino en otros canales personalizados como campañas de correo electrónico, mensajes de texto y publicidades. La IA generativa deja pocas huellas. También es mucho más difícil para periodistas, verificadores de hechos, fuerzas del orden o personas comunes detectar si el contenido es real o generado por IA. La Sra. Fleming delineó cuatro áreas de preocupación clave para la ONU: - Paz y Seguridad: La desinformación impulsada por IA ya está poniendo en peligro las operaciones de paz y humanitarias de la ONU, poniendo en riesgo al personal y a los civiles. Más del 70% de los cascos azules de la ONU que respondieron en una encuesta reciente dijeron que la desinformación y la información errónea dificultaban gravemente su capacidad para llevar a cabo su trabajo. - Violaciones de los derechos humanos: La IA se está utilizando para crear y difundir contenido dañino, incluyendo material de abuso sexual infantil e imágenes pornográficas no consensuadas, especialmente dirigidas a mujeres y niñas. La ONU también está profundamente preocupada de que el contenido antisemita, islamófobo, racista y xenófobo podría ser potenciado por la IA generativa. - Democracia en riesgo: El potencial de la IA para manipular a los votantes y swayar la opinión pública durante las elecciones representa una amenaza significativa para los procesos democráticos en todo el mundo. - Socavando la ciencia y las instituciones públicas: Por ejemplo, las herramientas de IA podrían escalar campañas de desinformación de décadas de duración para descarrilar la acción climática, amplificando información falsa sobre el cambio climático y la energía renovable. Subyacente a estos fenómenos hay un declive en la confianza pública en las fuentes de noticias e información. La Sra. Fleming citó un informe reciente que encontró que desde mayo de este año el número de sitios de noticias generados por IA, operando con poco o ningún control humano, había aumentado de 49 a casi 600. Algunos de estos sitios están poblados por miles de nuevos artículos al día. A menudo imitan a sitios web de noticias conocidos y emiten historias completamente fabricadas. Ante estos desafíos, la ONU ha establecido un Órgano Asesor de IA para fortalecer la gobernanza global de la IA. En paralelo, la ONU está desarrollando un código de conducta para la integridad de la información, para ayudar a aumentar la resiliencia en las sociedades contra la desinformación y el odio. La Sra. Fleming pidió un enfoque equilibrado para aprovechar los beneficios de la IA mientras se mitigan sus riesgos, enfatizando la necesidad de ecosistemas de información saludables para sociedades estables y unidas. Su mensaje fue claro: los desarrolladores de IA deben priorizar a las personas y su bienestar sobre el beneficio, asegurando que la tecnología sirva como una fuerza para el bien. Produced by: Translation: Original: Published: 2023-12-19 You listen to an AI generated voice.