Dringender Aufruf für ein besseres Verständnis und Management der gesellschaftlichen Auswirkungen von KI

von Amir Hussein
5 Kommentare
AI in society

Eine aktuelle Studie unterstreicht die komplexe Rolle der künstlichen Intelligenz (KI) in der modernen Gesellschaft und betont sowohl ihr positives Potenzial als auch ihre negativen Auswirkungen. Das Papier befasst sich mit den Beiträgen von KI zur nationalen Sicherheit und wie sie gesellschaftliche Herausforderungen wie Radikalisierung und Polarisierung verstärken kann. Es betont auch die Notwendigkeit, die Risiken der KI zu verstehen und zu kontrollieren. Quelle: SciTechPost.com

Ein Wissenschaftler der Lancaster University hat Bedenken hinsichtlich des Einsatzes künstlicher Intelligenz (KI) und Algorithmen zur Verschärfung der Radikalisierung, zur Verstärkung der Polarisierung sowie zur Verbreitung von Rassismus und politischer Instabilität geäußert.

Professor Joe Burton von der Lancaster University argumentiert, dass KI und Algorithmen über einfache Werkzeuge für nationale Sicherheitsbehörden zur Bekämpfung von Online-Bedrohungen hinausgehen. Er weist darauf hin, dass sie das Potenzial haben, Polarisierung, Radikalität und politische Gewalt zu verschärfen und somit eine Gefahr für die nationale Sicherheit darzustellen.

Er betont auch die Rolle von Versicherheitlichungsprozessen (die Technologie als existenzielle Bedrohung darstellen) bei der Gestaltung des Designs, der Nutzung von KI und den schädlichen Folgen, die sie hervorgerufen hat.

Die Rolle der KI bei der Verbriefung und gesellschaftlichen Auswirkungen

Der im Technology in Society Journal von Elsevier veröffentlichte Artikel von Professor Burton untersucht die Geschichte der Versicherheitlichung von KI, ihre Darstellung in den Medien und der Populärkultur sowie aktuelle Beispiele dafür, dass KI zu Polarisierung, Radikalisierung und politischer Gewalt beiträgt.

Anwendung von KI in der Kriegsführung und Cybersicherheit

Unter Bezugnahme auf die Filmreihe „Terminator“ weist das Papier auf deren erheblichen Einfluss auf die öffentliche Wahrnehmung von KI und die damit verbundenen Ängste hin, etwa dass Maschinenbewusstsein zu katastrophalen Folgen wie einem Atomkrieg führen könnte.

Professor Burton erörtert den Einfluss solcher Wahrnehmungen auf Regierungen und Sicherheitsbehörden bei der Steuerung der KI-Entwicklung, um Risiken zu mindern und möglicherweise ihre positiven Aspekte zu nutzen. Er führt das Beispiel fortschrittlicher Drohnen an, wie sie im Ukraine-Konflikt eingesetzt wurden und über vollständige Autonomie verfügen, einschließlich Zielerkennung.

Die Debatte über das Verbot von „Killerrobotern“ und die Beibehaltung der menschlichen Kontrolle über Entscheidungen über Leben und Tod geht weiter, doch die Integration von KI in bewaffnete Drohnen schreitet rasch voran.

In der Cybersicherheit spielt KI eine entscheidende Rolle, insbesondere in Bereichen wie (Des-)Information und psychologischer Online-Kriegsführung. Das Papier verweist auf die Einmischung Russlands in die US-Wahlen 2016 und den Cambridge-Analytica-Skandal als Beispiele für die Macht der KI bei der Schaffung politischer Spaltung, der Förderung radikaler Überzeugungen und der Manipulation von Identitätsgruppen.

Der Einfluss von KI während der Pandemie

In dem Papier wird die vorteilhafte Rolle der KI bei der Verfolgung und Rückverfolgung von COVID-19 hervorgehoben, wobei Bedenken hinsichtlich der Privatsphäre und der Menschenrechte gegenübergestellt werden. Es wird argumentiert, dass die Probleme im Design der KI, den Daten, von denen sie abhängt, ihren Anwendungen und den Konsequenzen dieser Faktoren liegen.

Abschließende Botschaft an Forscher

Professor Burton schließt mit einem Appell an Forscher in den Bereichen Cybersicherheit und internationale Beziehungen, die Risiken von KI besser zu verstehen und zu bewältigen und dabei ihre spaltenden Auswirkungen während ihrer Entwicklung und Anwendung zu berücksichtigen. Er betont, wie wichtig es ist, KI nicht als politisch neutrale Technologie zu behandeln und ihre Sicherheitsaspekte mit sozialen Implikationen in Einklang zu bringen.

Referenz: „Algorithmischer Extremismus? Die Versicherheitlichung künstlicher Intelligenz (KI) und ihre Auswirkungen auf Radikalismus, Polarisierung und politische Gewalt“ von Joe Burton, 14. September 2023, Technologie in der Gesellschaft.
DOI: 10.1016/j.techsoc.2023.102262

Häufig gestellte Fragen (FAQs) zum Thema KI in der Gesellschaft

Was ist der Schwerpunkt der aktuellen Studie, die im Artikel besprochen wird?

Die Studie untersucht in erster Linie die komplexe Rolle der künstlichen Intelligenz (KI) in der Gesellschaft und betont ihr Potenzial, verschiedene Aspekte sowohl positiv als auch negativ zu beeinflussen, darunter die nationale Sicherheit, gesellschaftliche Polarisierung, Radikalisierung und den Umgang mit KI-bezogenen Risiken.

Wie trägt KI laut der Studie zu nationalen Sicherheitsproblemen bei?

Laut der Studie kann KI zwar ein Instrument für nationale Sicherheitsbehörden zur Bekämpfung von Online-Bedrohungen sein, sie hat jedoch auch das Potenzial, Probleme wie Radikalisierung, Polarisierung und politische Gewalt zu verschärfen und damit ein Risiko für die nationale Sicherheit selbst darzustellen.

Welche Bedenken werden hinsichtlich des Einsatzes von KI in der Cybersicherheit geäußert?

Die Studie wirft Bedenken hinsichtlich des Einsatzes von KI in der Cybersicherheit auf, insbesondere bei der Verbreitung von (Des-)Informationen und der psychologischen Online-Kriegsführung. Es verweist auf bedeutende Beispiele wie die Einmischung Russlands in die US-Wahlen 2016 und den Cambridge-Analytica-Skandal als Beispiele für die Fähigkeit von KI, den politischen Diskurs und gesellschaftliche Überzeugungen zu manipulieren.

Welche Rolle spielte KI während der COVID-19-Pandemie, wie im Papier diskutiert?

Während der COVID-19-Pandemie war KI hilfreich bei der Verfolgung und Rückverfolgung des Virus. In der Studie werden jedoch auch Bedenken hinsichtlich der Privatsphäre und der Menschenrechte im Zusammenhang mit dem Einsatz von KI in diesem Zusammenhang hervorgehoben.

Was ist die abschließende Botschaft des Papiers an die Forscher?

Das Papier schließt mit einer Botschaft an Forscher in den Bereichen Cybersicherheit und internationale Beziehungen, in der sie aufgefordert werden, die Risiken der KI besser zu verstehen und zu bewältigen. Es betont, wie wichtig es ist, die spaltenden Auswirkungen von KI in allen Phasen ihrer Entwicklung und Nutzung anzuerkennen und KI nicht als politisch neutrale Technologie zu behandeln.

Mehr über KI in der Gesellschaft

Sie können auch mögen

5 Kommentare

Alex K Dezember 26, 2023 - 7:23 pm

Der Teil über KI in der Pandemie war interessant, die Verfolgung des Virus war hilfreich, aber der Datenschutz ist ein großes Problem. Wo ziehen wir die Grenze?

Antwort
John Smith Dezember 27, 2023 - 2:28 am

Wirklich interessanter Artikel, der zeigt, dass KI nicht nur gut oder schlecht ist, sondern irgendwie beides? Es ist wichtig, über diese Dinge nachzudenken, insbesondere angesichts der Geschwindigkeit, mit der sich die Technologie heutzutage weiterentwickelt.

Antwort
Emily R. Dezember 27, 2023 - 3:20 am

Wow, so habe ich noch nie über KI nachgedacht. Es ist so viel mehr als nur Technologie, es beeinflusst unsere Gesellschaft und Sicherheit. Bringt dich zum Nachdenken…

Antwort
Mike Johnson Dezember 27, 2023 - 9:05 am

Ich bin mir nicht sicher, ob ich allen Punkten zustimme, aber KI war in vielen Bereichen eine große Hilfe. aber ja, die Risiken sind da. Insgesamt eine gute Lektüre.

Antwort
Sara Connor Dezember 27, 2023 - 9:49 am

Das ist gruseliges Zeug, erinnert mich an Terminatorfilme. Wir müssen mit KI vorsichtig sein, es ist, als würde man die Büchse der Pandora öffnen!

Antwort

Hinterlasse einen Kommentar

* Durch die Nutzung dieses Formulars erklären Sie sich mit der Speicherung und Verarbeitung Ihrer Daten durch diese Website einverstanden.

SciTechPost ist eine Webressource, die sich der Bereitstellung aktueller Informationen über die schnelllebige Welt der Wissenschaft und Technologie widmet. Unsere Mission ist es, Wissenschaft und Technologie über unsere Plattform für jedermann zugänglich zu machen, indem wir Experten, Innovatoren und Akademiker zusammenbringen, um ihr Wissen und ihre Erfahrungen auszutauschen.

Abonnieren

Abonnieren Sie meinen Newsletter für neue Blogbeiträge, Tipps und neue Fotos. Bleiben wir auf dem Laufenden!

© 2023 SciTechPost

de_DEDeutsch