“Mitigar el riesgo de extinción (de la humanidad) derivado la Inteligencia Artificial (IA) debe ser una prioridad mundial, junto con a la mitigación de otros riesgos que amenazan a la sociedad como las pandemias o la guerra nuclear”.
Afirmar que la IA es tan peligrosa para el futuro de la humanidad como una guerra nuclear parece una exageración dicha por algunos ambientalistas radicales o por nostálgicos de un pasado pastoril que se oponen a las nuevas tecnologías. Lo sorprendente es que se trata de una declaración firmada por más de 600 de los expertos que han desarrollado la IA o la conocen muy bien, incluyendo a Bill Gates, al creador del famoso ChatGPT y a los presidentes de las tres compañías líderes en IA, OpenAI, DeepMind y Anthropic.
Hace unas semanas analicé la amenaza que puede representar la IA para los empleos y los ingresos de millones de personas, pero esto es un peligro que va mucho más allá de lo económico: muchos analistas creen que la IA puede debilitar el tejido social y socavar los sistemas democráticos que aún existen en el mundo, imponiendo una especie de ‘algocracia’, que sería la forma de gobierno donde los algoritmos son los que toman las decisiones.
Le pregunté a los tres chats de IA más usados (Chat GPT, Gemini 1.5 y Copilot), que dirían de ellos mismos, sobre los riesgos que puede representar la IA para la democracia. Estos son los principales riesgos que identificaron:
“1. Aumento de la Desigualdad Digital: La adopción desigual de la IA puede ampliar la brecha digital, dejando a algunos grupos socioeconómicos marginados y sin acceso equitativo a la participación política en línea.
2. Manipulación de la Opinión Pública: Los algoritmos de IA pueden ser utilizados para manipular la opinión pública y difundir propaganda política, socavando la integridad de los procesos democráticos.
3. Concentración del Poder: el desarrollo y la difusión de IA puede quedar concentrada en las manos de muy pocas corporaciones y gobiernos, lo que puede conducir a una nueva forma de tiranía.
4. Vulnerabilidad a Ataques Cibernéticos: Los sistemas de IA en la infraestructura electoral pueden ser vulnerables a ataques cibernéticos, comprometiendo la seguridad y la legitimidad de los resultados electorales.
5. Pérdida de Privacidad: El uso extendido de la IA en la política puede implicar una mayor vigilancia y recopilación de datos personales, erosionando la privacidad de los ciudadanos y generando preocupaciones éticas.
6. Barreras Éticas y Sesgos Algorítmicos: Los sistemas de IA pueden estar sujetos a sesgos algorítmicos y decisiones éticamente cuestionables, lo que puede conducir a la discriminación y a la injusticia en los procesos políticos y democráticos”.
La conclusión no puede ser impedir el desarrollo de la IA, lo cual no solo es imposible, sino que implicaría prescindir de los aportes positivos que puede hacer la IA a la sociedad y a la misma democracia, sino que el objetivo debe ser fortalecer la gobernanza mundial de la IA, creando instituciones públicas que la orienten al bien común.
Para ello se requiere una estrecha cooperación internacional para el desarrollo de marcos regulatorios apropiados para que las nuevas tecnologías funcionen con Apertura y Neutralidad, como sucede con Internet, se controlen los monopolios y los riesgos de seguridad, y se asegure que las innovaciones sean éticas, transparentes y reguladas para que las máquinas no terminen controlando nuestras vidas.
Sigue el canal de El País Cali en WhatsApp
Inteligencia Artificial y democracia
10
1
21.04.2024
“Mitigar el riesgo de extinción (de la humanidad) derivado la Inteligencia Artificial (IA) debe ser una prioridad mundial, junto con a la mitigación de otros riesgos que amenazan a la sociedad como las pandemias o la guerra nuclear”.
Afirmar que la IA es tan peligrosa para el futuro de la humanidad como una guerra nuclear parece una exageración dicha por algunos ambientalistas radicales o por nostálgicos de un pasado pastoril que se oponen a las nuevas tecnologías. Lo sorprendente es que se trata de una declaración firmada por más de 600 de los expertos que han desarrollado la IA o la conocen muy bien, incluyendo a Bill Gates, al creador del famoso ChatGPT y a los presidentes de las tres compañías líderes en IA, OpenAI, DeepMind y Anthropic.
Hace unas semanas analicé la amenaza que puede representar la IA para los empleos y los ingresos de millones de personas, pero........
© El País
visit website
login
who are we?
contact us
qosheapp
Toi Staff
Gideon Levy
Belen Fernandez
Andrew Mitrovica
Mort Laitner
Rami G Khouri
Ali Fathollah-Nejad
Nikkei Editorial
