¿Cuál es la mayor amenaza cibernética del mundo en este momento? ¿Secuestro de datos? ¿Marketing por correo electrónico empresarial? ¿Quizás IA? Bueno, es casi el último. Según el Foro Económico Mundial, la desinformación y la desinformación serán los mayores problemas del mundo durante los próximos dos años.
En su Informe de Riesgos Globales 2024, el WEF dijo que el mundo se está «poniendo patas arriba» después de la pandemia, con dos riesgos principales que tienen el poder de hacerlo todo, desde desafiar la salud mental hasta negar los derechos humanos. Otra preocupación es la combinación del poder y la tecnología de la IA, que reduce el listón de entrada para los piratas informáticos.
Desinformación: Lo que no sabes puede afectarte
«No es que no sepas que estás en problemas», dijo el humorista Mark Twain. «Eso es lo que sabes con certeza que no es el caso». La proliferación de vulnerabilidades profundas de la IA ha hecho que esta discusión sea particularmente relevante.
La IA y la elección de la verdad
El WEF describe este fenómeno: «No requiere un conjunto especial de habilidades, interfaces fáciles de usar con modelos de inteligencia artificial (IA) que han podido explotar en inteligencia artificial y la llamada ‘creación’ de contenido, a partir de voz sofisticada. manipulación de sitios web fraudulentos.» Según el informe, es sorprendente que lo que se ve pueda no reflejar la realidad.
Los conceptos erróneos y conceptos erróneos comunes incluyen:
- Hay un gran problema en las elecciones.
- La desconfianza política conduce a la polarización
- La erosión de los derechos humanos a medida que las autoridades buscan tomar medidas enérgicas contra los abusos de los medios, y puede ir aún más lejos
El WEF advierte que actores equivocados están utilizando herramientas simples de inteligencia artificial para crear noticias falsas; las verdades que guían nuestra sociedad serán distorsionadas y utilizadas para crear mensajes persuasivos para cumplir agendas específicas. «También habrá un aumento de nuevas clases de delitos, como la inconstitucionalidad profundamente arraigada o la manipulación del mercado de valores», dijo, añadiendo que la información errónea puede llevar a elecciones en las que termine la democracia. Los intentos de phishing de la IA parecen ser el comienzo del poder destructivo de la IA.
¿Qué hace?
Los gobiernos de todo el mundo están comenzando a tomar medidas enérgicas contra las leyes de inteligencia artificial y contra quienes crean y publican ilegalmente inmersiones profundas en línea. La Casa Blanca ha publicado un Plan para una Declaración de Derechos para la IA, muchos gobiernos están comprometidos con la legislación sobre IA y la UE publicará su primera Ley de IA. ¿Pero es bueno?
El WEF sostiene que a pesar de estos alentadores resultados globales, «la velocidad y la eficacia de la regulación pueden no seguir el ritmo del desarrollo (desinformación y tergiversación)».
Además, algunas de las medidas que ya se han tomado son limitadas. El informe dice que la investigación sobre tecnología de inteligencia artificial está «muy insuficientemente financiada» en comparación con la magnitud del problema, y que incluso cuando las cosas artificiales están etiquetadas como tales, esas etiquetas no son útiles, son meras advertencias o en impresiones digitales. nadie puede verlo. Es alentador que China ahora exija que el contenido editado por IA tenga una marca de agua.
Finalmente, incluso si se prestan atención a estas advertencias, el impacto emocional de un video falso engañoso puede tener un efecto ya dañino. «Por ejemplo», dice el WEF, «un vídeo generado por IA puede influir en los votantes y alimentar protestas o, en el peor de los casos, provocar violencia o reducirla, incluso si es una advertencia debido a la plataforma en la que se comparte». «Es sólo un diseño». Si pensábamos que el escándalo de desinformación de Cambridge Analytical sacudió al mundo, sólo somos conscientes a medias de lo que está por venir. «Esta es su campaña de concientización; esta es su campaña de traducción para la IA».
Los datos son el rey. Seamos reyes.
En el clima digital actual, los datos son poder. Cuando los ciberdelincuentes no pueden robar para marcar una gran diferencia, lo hacen. El gran poder de la Inteligencia Artificial para generar información se apoderará rápidamente de la cantidad de datos que las personas han creado hasta ahora, cambiando el equilibrio y creando la verdad «captando» a través de un lenguaje muy poderoso y muy religioso.
Mientras quienes están cerca de la ley ven la ley como un arma contra el crimen, los gobiernos, sin darse cuenta, reciben el poder de actuar como fuente de verdad. Hay muchas cosas en juego y no hay respuestas claras. Una cosa es segura: debemos tener cuidado, fijarnos en los detalles y comprender que detrás de todo lo que vemos puede haber algo más. El pensamiento crítico puede ser la mejor defensa.
Más amenazas digitales en el horizonte
A pesar de la confiabilidad de la información digital obtenida en muchos informes de propiedad, hay dos características de seguridad a destacar.
Primero, el poder de la IA es demasiado alto y casi demasiado bajo. El WEF dijo: «El despliegue excesivo de un pequeño conjunto de modelos de plataformas de inteligencia artificial, incluidos los sectores público y financiero, y la dependencia excesiva de un único proveedor de nube, conducirán a mayores vulnerabilidades cibernéticas y harán que la infraestructura crítica sea vulnerable». Es importante no poner demasiados productos en un solo paquete, sin importar cuán poderoso diga ser. Cuanto mayor sea la influencia de la empresa en el mercado y la economía globales, mayores serán las incertidumbres.
Y el problema no es que las empresas estén creando una zona de fracaso; El riesgo de consolidar y exacerbar la influencia de la IA, exacerbar las preocupaciones del discurso anterior y perpetuar los sesgos culturales de quienes dominan el panorama de la IA en este caso, está en el Norte del Mundo.
Protección de la cibergeografía
Cuando se les preguntó sobre el panorama de riesgos actual, las partes interesadas clasificaron los ciberataques generalizados como los quintos más altos de la lista, detrás del clima severo, la desinformación, la política y el riesgo del precio. Tenga en cuenta que los encuestados no procedían de un grupo de profesionales de seguridad o profesionales de TI; representan la división de los individuos entre «educación, empresas, gobierno, sociedad internacional y sociedad civil». A medida que el mundo (y casi todas partes) se vuelve cada vez más digital, las amenazas cibernéticas están en la mente de todos. Lo que solía ser un error de algunos se ha convertido en una preocupación para muchos.
A pesar del sombrío panorama, Saadia Zahidi, directora ejecutiva del Foro Económico Mundial, dice que todavía hay esperanza. «No en el futuro», concluyó, esperando que el Informe de Riesgos Globales de 2024 sea «un gran llamado a la acción para un diálogo abierto y productivo entre los líderes» para comprender los problemas y las reducciones antes de llegar a múltiples predicciones. pronóstico de hoy.
Nota del editor: Las opiniones expresadas en este artículo de autor invitado son únicamente las del colaborador y no reflejan necesariamente las opiniones de Tripwire.
