Срочный призыв к лучшему пониманию и управлению социальными последствиями ИИ

к Амир Хусейн
5 Комментарии
AI in society

Недавнее исследование подчеркивает сложную роль искусственного интеллекта (ИИ) в современном обществе, подчеркивая как его положительный потенциал, так и отрицательные последствия. В статье рассматривается вклад ИИ в национальную безопасность и то, как он может усугубить социальные проблемы, такие как радикализация и поляризация. В нем также подчеркивается необходимость понимания и контроля рисков, связанных с ИИ. Источник: SciTechPost.com

Ученый из Ланкастерского университета выразил обеспокоенность по поводу использования искусственного интеллекта (ИИ) и алгоритмов для усиления радикализации, усиления поляризации, распространения расизма и политической нестабильности.

Профессор Джо Бертон из Ланкастерского университета утверждает, что ИИ и алгоритмы выходят за рамки простых инструментов для органов национальной безопасности, борющихся с онлайн-угрозами. Он указывает на их потенциал усугублять поляризацию, радикализм и политическое насилие, создавая тем самым угрозу национальной безопасности.

Он также подчеркивает роль процессов секьюритизации (изображающих технологии как экзистенциальную угрозу) в формировании конструкции ИИ, его использовании и пагубных результатах, которые он приносит.

Роль ИИ в секьюритизации и воздействии на общество

В статье профессора Бертона, опубликованной в журнале Elsevier’s Technology in Society Journal, рассматривается история секьюритизации ИИ, его изображение в средствах массовой информации и популярной культуре, а также недавние примеры того, как ИИ способствует поляризации, радикализации и политическому насилию.

Применение ИИ в войне и кибербезопасности

Ссылаясь на серию фильмов «Терминатор», в статье отмечается ее значительное влияние на общественное восприятие искусственного интеллекта и связанных с ним страхов, таких как машинное сознание, приводящее к катастрофическим последствиям, таким как ядерная война.

Профессор Бертон обсуждает влияние таких представлений на правительства и органы безопасности при разработке ИИ для снижения рисков и потенциального использования его положительных аспектов. Он приводит в пример современные беспилотники, подобные тем, которые использовались в украинском конфликте, способные к полной автономности, включая распознавание целей.

Дебаты по поводу запрета «роботов-убийц» и сохранения человеческого контроля над принятием решений о жизни и смерти продолжаются, однако интеграция ИИ в вооруженные дроны быстро прогрессирует.

В кибербезопасности ИИ играет решающую роль, особенно в таких областях, как (дез)информация и психологическая война в Интернете. В документе упоминается вмешательство России в выборы в США в 2016 году и скандал с Cambridge Analytica как примеры силы ИИ в создании политического раскола, поощрении радикальных убеждений и манипулировании группами идентичности.

Влияние ИИ во время пандемии

В документе отмечается полезная роль ИИ в отслеживании и отслеживании COVID-19, сбалансированная с обеспокоенностью по поводу конфиденциальности и прав человека. В нем утверждается, что проблемы кроются в конструкции ИИ, данных, от которых он зависит, его применении и последствиях этих факторов.

Заключительное послание исследователям

В заключение профессор Бертон обращается к исследователям в области кибербезопасности и международных отношений с призывом лучше понимать и управлять рисками ИИ, учитывая его разногласия на протяжении всего процесса его разработки и применения. Он подчеркивает важность не относиться к ИИ как к политически нейтральной технологии и сбалансировать аспекты безопасности с социальными последствиями.

Ссылка: «Алгоритмический экстремизм? Секьюритизация искусственного интеллекта (ИИ) и его влияние на радикализм, поляризацию и политическое насилие», Джо Бертон, 14 сентября 2023 г., Технологии в обществе.
DOI: 10.1016/j.techsoc.2023.102262.

Часто задаваемые вопросы (FAQ) об ИИ в обществе

Каков основной фокус недавнего исследования, обсуждаемого в статье?

Исследование в первую очередь рассматривает сложную роль искусственного интеллекта (ИИ) в обществе, подчеркивая его потенциал как положительно, так и отрицательно влиять на различные аспекты, включая национальную безопасность, социальную поляризацию, радикализацию и управление рисками, связанными с ИИ.

Как согласно исследованию, ИИ способствует решению вопросов национальной безопасности?

Согласно исследованию, хотя ИИ может быть для органов национальной безопасности инструментом борьбы с онлайн-угрозами, он также может усугубить такие проблемы, как радикализация, поляризация и политическое насилие, тем самым создавая риск для самой национальной безопасности.

Какие опасения возникают по поводу использования ИИ в сфере кибербезопасности?

Исследование вызывает обеспокоенность по поводу использования ИИ в сфере кибербезопасности, особенно в распространении (дез)информации и психологической войне в Интернете. В качестве примеров способности ИИ манипулировать политическим дискурсом и общественными убеждениями он указывает на такие важные случаи, как вмешательство России в выборы в США в 2016 году и скандал с Cambridge Analytica.

Какую роль сыграл ИИ во время пандемии COVID-19, как обсуждается в статье?

Во время пандемии COVID-19 ИИ оказался полезен для отслеживания и отслеживания вируса. Однако исследование также подчеркивает обеспокоенность по поводу конфиденциальности и прав человека, связанных с использованием ИИ в этом контексте.

Каково заключительное послание статьи исследователям?

Документ завершается обращением к исследователям в области кибербезопасности и международных отношений, призывающим их лучше понимать риски, связанные с ИИ, и управлять ими. В нем подчеркивается важность признания вызывающего разногласия эффекта ИИ на всех этапах его разработки и использования, а не рассмотрения ИИ как политически нейтральной технологии.

Подробнее об ИИ в обществе

Вам также может понравиться

5 Комментарии

Алекс К 1ТП2Т - 1ТП3Т

часть об ИИ в пандемии была интересной, отслеживание вируса было полезным, но конфиденциальность вызывает большую озабоченность, где мы проводим черту?

Отвечать
Джон Смит 1ТП2Т - 1ТП3Т

действительно интересная статья, показывает, что ИИ не только хорош или плох, но и то и другое? важно думать об этих вещах, особенно с учетом того, как быстро развиваются технологии в наши дни.

Отвечать
Эмили Р. 1ТП2Т - 1ТП3Т

Ух ты, никогда не думал об ИИ в таком ключе. Это гораздо больше, чем просто технологии, это влияет на наше общество и безопасность. Заставляет задуматься…

Отвечать
Майк Джонсон 1ТП2Т - 1ТП3Т

не уверен, что согласен со всеми пунктами, ИИ оказал большую помощь во многих областях. но да, риски есть. хорошее чтение в целом.

Отвечать
Сара Коннор 1ТП2Т - 1ТП3Т

Это жуткая штука, напоминает мне фильмы о терминаторе. Нам нужно быть осторожными с ИИ, это как открыть ящик Пандоры!

Отвечать

Оставить комментарий

* Используя эту форму, вы соглашаетесь с хранением и обработкой ваших данных на этом сайте.

1ТП1Т — веб-ресурс, посвященный предоставлению актуальной информации о быстро меняющемся мире науки и технологий. Наша миссия — сделать науку и технологии доступными для всех через нашу платформу, объединяя экспертов, новаторов и ученых, чтобы поделиться своими знаниями и опытом.

Подписаться

Подпишитесь на мою рассылку, чтобы получать новые сообщения в блоге, советы и новые фотографии. Давайте оставаться в курсе!

© 2023 1ТП1Т

ru_RUРусский