Apelo urgente para uma maior compreensão e gestão das implicações sociais da IA

por Amir Hussein
5 comentários
AI in society

Um estudo recente destaca o intrincado papel da inteligência artificial (IA) na sociedade moderna, enfatizando tanto o seu potencial positivo como as suas repercussões negativas. O artigo investiga as contribuições da IA para a segurança nacional e como ela pode intensificar desafios sociais como a radicalização e a polarização. Salienta também a necessidade de compreender e controlar os riscos da IA. Fonte: SciTechPost.com

Um académico da Universidade de Lancaster levantou preocupações sobre a utilização da Inteligência Artificial (IA) e de algoritmos no agravamento da radicalização, no aumento da polarização e na propagação do racismo e da instabilidade política.

O professor Joe Burton, da Lancaster University, argumenta que a IA e os algoritmos vão além de simples ferramentas para agências de segurança nacional que combatem ameaças online. Ele salienta o seu potencial para exacerbar a polarização, o radicalismo e a violência política, representando assim um risco para a segurança nacional.

Ele também destaca o papel dos processos de securitização (que retratam a tecnologia como uma ameaça existencial) na definição do design, da utilização da IA e dos resultados prejudiciais que ela produziu.

O papel da IA na securitização e no impacto social

Publicado no Technology in Society Journal da Elsevier, o artigo do professor Burton examina a história da securitização da IA, seu retrato na mídia e na cultura popular, e exemplos recentes de IA contribuindo para a polarização, radicalização e violência política.

Aplicação da IA em guerra e segurança cibernética

Fazendo referência à série de filmes The Terminator, o artigo observa o seu impacto significativo na percepção pública da IA e dos medos associados, como a consciência da máquina que leva a resultados catastróficos como a guerra nuclear.

O Professor Burton discute a influência de tais percepções sobre os governos e agências de segurança na orientação do desenvolvimento da IA para mitigar riscos e potencialmente aproveitar os seus aspectos positivos. Ele cita o exemplo de drones avançados, como os usados no conflito na Ucrânia, capazes de total autonomia, incluindo reconhecimento de alvos.

O debate sobre a proibição dos «robôs assassinos» e a manutenção da supervisão humana nas decisões de vida ou morte continua, mas a integração da IA em drones armados progride rapidamente.

Na cibersegurança, a IA desempenha um papel crucial, especialmente em áreas como a (des)informação e a guerra psicológica online. O artigo faz referência à interferência da Rússia nas eleições norte-americanas de 2016 e ao escândalo Cambridge Analytica como exemplos do poder da IA na criação de divisão política, no incentivo a crenças radicais e na manipulação de grupos de identidade.

A influência da IA durante a pandemia

O documento destaca o papel benéfico da IA no rastreamento e rastreamento da COVID-19, equilibrado com as preocupações com a privacidade e os direitos humanos. Argumenta que as questões residem na concepção da IA, nos dados de que depende, nas suas aplicações e nas consequências destes factores.

Mensagem final aos pesquisadores

O professor Burton conclui com um apelo aos investigadores em segurança cibernética e relações internacionais para melhor compreenderem e gerirem os riscos da IA, considerando os seus efeitos divisivos ao longo do seu desenvolvimento e aplicação. Ele enfatiza a importância de não tratar a IA como uma tecnologia politicamente neutra e de equilibrar os seus aspectos de segurança com as implicações sociais.

Referência: “Extremismo algorítmico? A securitização da inteligência artificial (IA) e o seu impacto no radicalismo, na polarização e na violência política” por Joe Burton, 14 de setembro de 2023, Technology in Society.
DOI: 10.1016/j.techsoc.2023.102262

Perguntas frequentes (FAQs) sobre IA na sociedade

Qual é o foco principal do estudo recente discutido no artigo?

O estudo examina principalmente o papel complexo da inteligência artificial (IA) na sociedade, enfatizando o seu potencial para impactar positiva e negativamente vários aspectos, incluindo a segurança nacional, a polarização social, a radicalização e a gestão de riscos relacionados com a IA.

Como a IA contribui para as questões de segurança nacional, de acordo com o estudo?

De acordo com o estudo, embora a IA possa ser uma ferramenta para as agências de segurança nacional combaterem ameaças online, também tem o potencial de exacerbar questões como a radicalização, a polarização e a violência política, representando assim um risco para a própria segurança nacional.

Que preocupações são levantadas sobre o uso da IA na segurança cibernética?

O estudo levanta preocupações sobre a utilização da IA na segurança cibernética, especialmente na disseminação de (des)informação e na guerra psicológica online. Aponta casos significativos como a interferência da Rússia nas eleições norte-americanas de 2016 e o escândalo Cambridge Analytica como exemplos da capacidade da IA para manipular o discurso político e as crenças sociais.

Qual foi o papel da IA durante a pandemia da COVID-19, conforme discutido no artigo?

Durante a pandemia de COVID-19, a IA foi benéfica no rastreamento e rastreamento do vírus. No entanto, o estudo também destaca preocupações sobre a privacidade e os direitos humanos relacionados com a utilização da IA neste contexto.

Qual é a mensagem final do artigo para os pesquisadores?

O artigo termina com uma mensagem aos investigadores em segurança cibernética e relações internacionais, instando-os a compreender e gerir melhor os riscos da IA. Enfatiza a importância de reconhecer os efeitos divisivos da IA em todas as fases do seu desenvolvimento e utilização, e de não tratar a IA como uma tecnologia politicamente neutra.

Mais sobre IA na sociedade

você pode gostar

5 comentários

Alex K. Dezembro 26, 2023 - 7:23 pm

a parte sobre a IA na pandemia foi interessante, rastrear o vírus foi útil, mas a privacidade é uma grande preocupação, onde traçamos o limite?

Responder
João Smith Dezembro 27, 2023 - 2:28 am

artigo realmente interessante, mostra como a IA não é totalmente boa ou ruim, mas sim as duas coisas? é importante pensar sobre essas coisas, especialmente com a rapidez com que a tecnologia está evoluindo atualmente.

Responder
Emilly R. Dezembro 27, 2023 - 3:20 am

Uau, nunca pensei em IA dessa forma. É muito mais do que apenas tecnologia, afeta a nossa sociedade e a nossa segurança. Faz você pensar…

Responder
Mike Johnson Dezembro 27, 2023 - 9:05 am

não tenho certeza se concordo com todos os pontos, a IA tem sido uma grande ajuda em muitas áreas. mas sim, os riscos existem. boa leitura no geral.

Responder
Sara Connor Dezembro 27, 2023 - 9:49 am

Isso é assustador, me lembra filmes do Exterminador do Futuro. Precisamos ter cuidado com a IA, é como abrir a caixa de Pandora!

Responder

Deixe um comentário

* Ao utilizar este formulário você concorda com o armazenamento e tratamento de seus dados por este site.

SciTechPost é um recurso da web dedicado a fornecer informações atualizadas sobre o mundo acelerado da ciência e da tecnologia. Nossa missão é tornar a ciência e a tecnologia acessíveis a todos por meio de nossa plataforma, reunindo especialistas, inovadores e acadêmicos para compartilhar seus conhecimentos e experiências.

Se inscrever

Assine meu boletim informativo para novas postagens no blog, dicas e novas fotos. Vamos nos manter atualizados!

© 2023 SciTechPost

pt_PTPortuguês