Llamado urgente a una mayor comprensión y gestión de las implicaciones sociales de la IA

por Amir Hussein
5 comentarios
AI in society

Un estudio reciente destaca el intrincado papel de la inteligencia artificial (IA) en la sociedad moderna, enfatizando tanto su potencial positivo como sus repercusiones negativas. El documento profundiza en las contribuciones de la IA a la seguridad nacional y cómo puede intensificar desafíos sociales como la radicalización y la polarización. También enfatiza la necesidad de comprender y controlar los riesgos de la IA. Fuente: SciTechPost.com

Un académico de la Universidad de Lancaster ha expresado su preocupación por el uso de la Inteligencia Artificial (IA) y algoritmos para agravar la radicalización, mejorar la polarización y difundir el racismo y la inestabilidad política.

El profesor Joe Burton de la Universidad de Lancaster sostiene que la IA y los algoritmos van más allá de simples herramientas para que las agencias de seguridad nacional combatan las amenazas en línea. Señala su potencial para exacerbar la polarización, el radicalismo y la violencia política, planteando así un riesgo para la seguridad nacional.

También destaca el papel de los procesos de titulización (que representan la tecnología como una amenaza existencial) en la configuración del diseño, el uso y los resultados perjudiciales que ha producido la IA.

El papel de la IA en la titulización y el impacto social

Publicado en Technology in Society Journal de Elsevier, el artículo del profesor Burton examina la historia de la titulización de la IA, su representación en los medios y la cultura popular, y ejemplos recientes de cómo la IA contribuye a la polarización, la radicalización y la violencia política.

La aplicación de la IA en la guerra y la ciberseguridad

Haciendo referencia a la serie de películas Terminator, el artículo señala su impacto significativo en la percepción pública de la IA y los temores asociados, como la conciencia de las máquinas que conduce a resultados catastróficos como la guerra nuclear.

El profesor Burton analiza la influencia de tales percepciones en los gobiernos y las agencias de seguridad a la hora de guiar el desarrollo de la IA para mitigar los riesgos y potencialmente aprovechar sus aspectos positivos. Cita el ejemplo de los drones avanzados, como los utilizados en el conflicto de Ucrania, capaces de total autonomía, incluido el reconocimiento de objetivos.

El debate sobre la prohibición de los "robots asesinos" y la conservación de la supervisión humana en las decisiones de vida o muerte continúa, pero la integración de la IA en los drones armados avanza rápidamente.

En ciberseguridad, la IA desempeña un papel crucial, particularmente en áreas como la (des)información y la guerra psicológica en línea. El artículo hace referencia a la interferencia de Rusia en las elecciones estadounidenses de 2016 y al escándalo de Cambridge Analytica como ejemplos del poder de la IA para crear división política, fomentar creencias radicales y manipular grupos de identidad.

La influencia de la IA durante la pandemia

El documento señala el papel beneficioso de la IA en el seguimiento y rastreo de COVID-19, en comparación con las preocupaciones sobre la privacidad y los derechos humanos. Sostiene que los problemas residen en el diseño de la IA, los datos de los que depende, sus aplicaciones y las consecuencias de estos factores.

Mensaje final a los investigadores

El profesor Burton concluye con un llamamiento a los investigadores en ciberseguridad y relaciones internacionales para que comprendan y gestionen mejor los riesgos de la IA, teniendo en cuenta sus efectos divisivos a lo largo de su desarrollo y aplicación. Destaca la importancia de no tratar la IA como una tecnología políticamente neutral y de equilibrar sus aspectos de seguridad con sus implicaciones sociales.

Referencia: “¿Extremismo algorítmico? La titulización de la inteligencia artificial (IA) y su impacto en el radicalismo, la polarización y la violencia política” por Joe Burton, 14 de septiembre de 2023, Technology in Society.
DOI: 10.1016/j.techsoc.2023.102262

Preguntas frecuentes (FAQ) sobre la IA en la sociedad

¿Cuál es el enfoque principal del estudio reciente discutido en el artículo?

El estudio examina principalmente el complejo papel de la inteligencia artificial (IA) en la sociedad, enfatizando su potencial para impactar positiva y negativamente varios aspectos, incluida la seguridad nacional, la polarización social, la radicalización y la gestión de los riesgos relacionados con la IA.

¿Cómo contribuye la IA a las cuestiones de seguridad nacional según el estudio?

Según el estudio, si bien la IA puede ser una herramienta para que las agencias de seguridad nacional combatan las amenazas en línea, también tiene el potencial de exacerbar problemas como la radicalización, la polarización y la violencia política, planteando así un riesgo para la propia seguridad nacional.

¿Qué preocupaciones surgen sobre el uso de la IA en ciberseguridad?

El estudio plantea preocupaciones sobre el uso de la IA en ciberseguridad, especialmente en la difusión de (des)información y la guerra psicológica en línea. Señala casos significativos como la interferencia de Rusia en las elecciones estadounidenses de 2016 y el escándalo de Cambridge Analytica como ejemplos de la capacidad de la IA para manipular el discurso político y las creencias sociales.

¿Qué papel jugó la IA durante la pandemia de COVID-19, como se analiza en el documento?

Durante la pandemia de COVID-19, la IA resultó beneficiosa para rastrear y rastrear el virus. Sin embargo, el estudio también destaca las preocupaciones sobre la privacidad y los derechos humanos relacionados con el uso de la IA en este contexto.

¿Cuál es el mensaje final del artículo para los investigadores?

El documento concluye con un mensaje a los investigadores en ciberseguridad y relaciones internacionales, instándolos a comprender y gestionar mejor los riesgos de la IA. Enfatiza la importancia de reconocer los efectos divisivos de la IA en todas las etapas de su desarrollo y uso, y de no tratarla como una tecnología políticamente neutral.

Más sobre la IA en la sociedad

También te puede interesar

5 comentarios

alex k diciembre 26, 2023 - 7:23 pm

La parte sobre la IA en la pandemia fue interesante, el seguimiento del virus fue útil, pero la privacidad es una gran preocupación, ¿dónde trazamos el límite?

Responder
John Smith diciembre 27, 2023 - 2:28 am

Un artículo realmente interesante muestra cómo la IA no es del todo buena o mala, sino ambas cosas. Es importante pensar en estas cosas, especialmente con lo rápido que avanza la tecnología en estos días.

Responder
emily r. diciembre 27, 2023 - 3:20 am

Vaya, nunca pensé en la IA de esta manera. Es mucho más que sólo tecnología: afecta a nuestra sociedad y a nuestra seguridad. Te hace pensar…

Responder
Mike Johnson diciembre 27, 2023 - 9:05 am

No estoy seguro de estar de acuerdo con todos los puntos, la IA ha sido de gran ayuda en muchas áreas. pero sí, los riesgos están ahí. buena lectura en general.

Responder
sara connor diciembre 27, 2023 - 9:49 am

Esto da miedo, me recuerda a las películas de Terminator. Hay que tener cuidado con la IA, ¡es como abrir la caja de Pandora!

Responder

Deja un comentario

* Al utilizar este formulario usted acepta el almacenamiento y manejo de sus datos por parte de este sitio web.

SciTechPost es un recurso web dedicado a proporcionar información actualizada sobre el acelerado mundo de la ciencia y la tecnología. Nuestra misión es hacer que la ciencia y la tecnología sean accesibles para todos a través de nuestra plataforma, reuniendo a expertos, innovadores y académicos para compartir sus conocimientos y experiencias.

Suscribir

Suscríbete a mi boletín para recibir nuevas publicaciones de blog, consejos y nuevas fotos. ¡Mantengámonos actualizados!

© 2023 SciTechPost

es_ESEspañol