Zwei Computerfreaks unterhalten sich in dieser Spezialausgabe der Schallmooser Gespräche über das Thema Künstliche Intelligenz (und menschliche Ignoranz). Bernhard Redl, der davon nicht wirklich eine Ahnung hat, interviewt Werner Scholl, der da doch recht fit diesbezüglich ist. Allerdings, und das unterscheidet diese Sendung vielleicht von vielen anderen zu diesem gerade recht hippen Thema, sind die beiden Interviewpartner doch mehr daran interessiert, was KI in einer kapitalistisch, patriarchal und militaristisch geprägten Gesellschaft bedeutet.

Daher kommt auch der Spott nicht zu kurz und so wurde es dann doch wieder eine typische Ausgabe der Schallmooser Gespräche, wo das Motto gilt: Die Lage ist hoffnungslos, aber nicht ernst.

*

Linksammlung:

https://www.spektrum.de/news/die-5-schulen-des-maschinenlernens/1677916
https://bard.google.com/ bing chat kostenlos dall-e3
Artifical Intelligence Mission Austria 2030: https://www.ki-strategie.at/
Ethikkommisionen: https://www.bmbwf.gv.at/Themen/HS-Uni/Hochschulgremien/Ethikkommissionen.html
Bericht der deutschen Ethikkommission automatisiertes und vernetztes Fahren: https://bmdv.bund.de/SharedDocs/DE/Publikationen/DG/bericht-der-ethik-kommission.pdf?__blob=publicationFile
Trolley Test: https://www.moralmachine.net/hl/de
Mathematik der Fainess: https://www.spektrum.de/pix/interactive/mathematik-der-fairness/
KI erstellte Radiosendung: https://oe1.orf.at/programm/20231018/736484/Kuenstliche-Intelligenz-macht-Radio und https://www.timekettle.co/
Unreal Engine zur Erstellung von Fake Videos: https://de.wikipedia.org/wiki/Unreal_Engine
Beispiele: https://twitter.com/Lauren_Southern/status/1715074648940130312
und https://www.youtube.com/watch?v=IK76q13Aqt0
Bildercheck für KI Generierte Bilder: tineye.com

*

Zur Einführung in die Thematik

Werner Scholl

Technik ist immer sozial konstruiert und auch ihre Bewertung und Nutzung findet immer in einem gewissen historischen, gesellschaftlichen Kontext statt.

KI-basierte Systeme können in unterschiedlichen gesellschaftlichen Handlungsfeldern zur Geltung kommen wie in Beruf und Freizeit, in Wirtschaft und Verwaltung, in Bildung und Erziehung, in Gesundheit und Umwelt, in Forschung und Technik, in Kunst und Kultur, in öffentlicher Meinungsbildung und Politik, in sprachlichen und diplomatischen Bereichen und nicht zuletzt in Landwirtschaft sowie beim Militär. In all diesen Handlungsfeldern ergeben sich durch KI-Entwicklungen neue Chancen und Risiken. Beispielsweise werden im Digital Guide IONOS (2020) folgende Chancen aufgeführt: Schaffung anspruchsvoller Arbeitsplätze durch die Notwendigkeit neuer Soft- und Hardware-Entwicklungen für KI-Anwendungen, Arbeitserleichterung in vielen Berufen durch die Nutzung von KI-Systemen bei Analysen und Steuerungsprozessen sowie bei Automatisierungen, mehr Komfort im Alltag durch smart home-Konzepte oder bei der Mobilität, Steigerung der Produktivität durch hohe Verarbeitungsschnelligkeit und geringe Fehlerquoten, ökonomische Vorteile für beteiligte Wirtschaftszweige durch innovative Produkte und rasche Anpassung an den – auch individuellen – Bedarf, Fortschritte in Wissenschaft und Technik durch neue Möglichkeiten der Datengewinnung und -auswertung bis zu futuristischen Projekten in der Raumfahrt.

Zugleich werden im Digital Guide IONOS (2020) folgende Risiken angesprochen: Unterlegenheit bzw. Kontrollverlust des Menschen in Bereichen, in denen es um eine schnelle Erfassung und effiziente Auswertung von riesigen und komplexen Datenmengen sowie um rasche Entscheidungen geht, Zunahme der Abhängigkeit des Menschen von der Technik, die unter Umständen bis zur Dominanz der Technik gegenüber dem Menschen reichen kann, erweiterte Gefahren bezüglich Datenschutz und Machtmissbrauch aufgrund der Verfügung über Daten, Verstärkung selektiver Wahrnehmung durch „Filterblasen“ im Sinne eines – auf subjektive Positionen zugeschnittenen – Informationsangebots, manipulative Beeinflussung der Meinungsbildung durch gezielte (Falsch-) Informationen, Gefahren durch autonome Waffensysteme, gegebenenfalls verbunden mit Wettrüsten und abnehmenden Eingriffsmöglichkeiten des Menschen, Diskriminierung einzelner Bevölkerungsgruppen durch schwer durchschaubare Algorithmen, Verlust von Arbeitsplätzen aufgrund der Übernahme beruflicher Funktionen durch KI-Systeme sowie Verminderung von sozialer Nähe durch Robotereinsatz in Pflegeberufen und weiteren Tätigkeitfeldern, die mit persönlichen Kontakten verbunden sind. Zusätzlich wird an anderer Stelle angesichts der steigenden ökonomischen Bedeutung von Daten und ihrer Nutzung vor einem ungehemmten Datenkapitalismus gewarnt (vgl. Mayer-Schönberger und Ramge 2017). Aber auch so Probleme wie Urheber:innenrechtsverletzungen, Selbstwertgefühlsverlust (bei Definition über Arbeit), Verschiebung sozialer Strukturen über Statusveränderungen, Entwertung und Verlust von Fähigkeiten…

Daraus ergeben sich viele Fragen, die wir weltweit demokratisch diskutieren sollten, da KI alle betrifft:

Welche Kompetenzen braucht es, um mit diesen Technologien in Zukunft umgehen zu können?

Wie können wir sicherstellen, zu erfahren, welche Daten von der KI verwendet werden und was mit den Daten geschieht, die wir der KI zur Verfügung stellen?

Wie können wir sicherstellen, dass wir wissen, wie KI-Anwendungen funktionieren? Was kann KI und was nicht?

Wie wirkt sich KI für bildungsferne, bildungsnahe, organisierte, unorganisierte, junge, alte, people of color, weiße, Männer, Frauen, behinderte, Menschen unterschiedlicher Religionen oder sexueller Orientierung und Identität, Menschen mit und ohne Kinder, geistig beeinträchtigte oder drogensüchtige, arme, reiche, Wölfe, Bäume, Bienen und Wale aus? Wen sollten wir hier noch mitbedenken?

Gibt es Auswirkungen von KI auf Tiere und Umwelt und wenn ja, welche?

Wieweit hat das Individuum auf diese Auswirkungen Einfluss?

Welche sozialen Probleme könnten durch KI entstehen? Inwieweit könnte eine Steigerung der sozialen Akzeptanz und des Vertrauens in KI diese Auswirkungen mildern?

Inwieweit sind menschliche und maschinelle Werturteile kompatibel? Wo könnte das zu Problemen führen?

Wie können wir für gesellschaftliche und politische Bedingungen sorgen, unter denen Wissenschaft, Forschung und Technologie dem Ziel eines erfüllten Lebens im globalen Maßstab dient?

Kann man Technik kritisieren? Oder sind es nicht vielmehr die Akteur:innen dahinter, die diese Technik erschaffen und nutzen, die zu kritisieren sind und die selbstkritisch damit umgehen sollten?

„Wir sollten die Forschungs-Milliarden lieber in den Kampf gegen natürliche Dummheit stecken als in künstliche Intelligenz. Diese hilft uns nicht, wenn jene regiert.” (Philip Meier in einem Kommentar in der SZ, am 31.05.2023, zuletzt aufgerufen ebenda)

Welche Gruppen haben Zugang zu diesen Techniken und welche nicht? Und warum?

Braucht KI eine Regulierung und wenn ja, welche und ist das überhaupt möglich?

Glauben Sie, dass KI das auch so sieht?

*

Literatur

Allhutter, D., Mager, A., Cech, F., Fischer, F., & Grill, G. (2020): Der AMS-Algorithmus. Eine

Soziotechnische Analyse des Arbeitsmarktchancen-Assistenz-Systems (AMAS) (p. 120),

Wien. doi:/10.1553/ITA-pb-2020-02: https://epub.oeaw.ac.at/ita/ita-projektberichte/2020-02.pdf

Bernd W. Wirtz/Jan C. Weyerer (2019): Künstliche Intelligenz im öffentlichen Sektor: Anwendungen und Herausforderungen in: VM Verwaltung & Management Jahrgang 25(2019) Heft 1. Online verfügbar unter: https://doi.org/10.5771/0947-9856-2019-1-37, zuletzt geprüft am 01.06.2023

Christchurch International Airport (2016). New Zealands’s First Trial of Autonomous Vehicle Announced. Online verfügbar unter http://www.christchurchairport.co.nz/media/827295/new_zealand_s_first_trial_of_autonomous_vehicle_announced.pdf, zuletzt geprüft am 15.11.2018.

Chun, A./Wai, H. (2007). Using AI for E-government Automatic Assessment of Immigration Application Forms. In: Proceedings of the National Conference on Artificial Intelligence, AAAI 2007, Vancouver, Kanada, 1684–1691.

Collier, Matt/Fu, Richard/Yin, Lucy. (2017). Artificial Intelligence: Healthcare’s New Nervous System. Herausgegeben von Accenture. Online verfügbar unter https://www.accenture.com/t20170418T023052Z__w__/au-en/_acnmedia/PDF-49/Accenture-Health-Artificial-Intelligence.pdf, zuletzt geprüft am 15.11.2018

Cortés-Cediel, María E./Cantador, Iván/Gil, Olga (2017). Recommender Systems for E-governance in Smart Cities. In: Yang, Jie/Sun, Zhu/Bozzon, Alessandro/Zhang, Jie/Larson, Martha (Hrsg.), Proceedings of the International Workshop on Citizens for Recommender Systems – CitRec’17, Como, Italien, 27. August, 2017, New York.

Dheap, V. (2017). IBM QRadar Advisor with Watson: Revolutionizing the Way Security Analysts Work. Herausgegeben von IBM. Online verfügbar unter https://securityintelligence.com/ibm-qradar-advisor-with-watson-revolutionizing-the-way-security-analysts-work/, zuletzt geprüft am 15.11.2018.

Digital Guide IONOS (2020). Faszination KI: Was ist künstliche Intelligenz? https://www.ionos.de/digitalguide/online-marketing/verkaufen-im-internet/was-ist-kuenstliche-intelligenz/. Zugegriffen: 03. Juni 2021.

Die Presse, 04.06.2023. AMS-Chef erwartet keine Massenarbeitslosigkeit durch KI. Online verfügbar unter: https://www.diepresse.com/6295717/ams-chef-erwartet-keine-massenarbeitslosigkeit-durch-ki?from=rss&xing_share=news,zuletzt geprüft am 06.06.2023

Eder, Thomas (2021): Künstliche Intelligenz und menschliche Arbeit – ethische Herausforderungen angesichts von Industrie 4.0 – Diplomarbeit – Graz – Katholisch-Theologische Fakultät Uni Graz

Gethmann,Carl Friedrich; Buxmann, Peter; Distelrath, Julia u.a.(2021): Künstliche Intelligenz in der Forschung – Berlin, Heidelberg – Springer

Hemken, T./Gray, C. (2016). Smart Move: Technologies Make Their Mark on Public Service. Herausgegeben von Accenture. Online verfügbar unter https://www.accenture.com/t20170224T040950Z__w__/us-en/_acnmedia/PDF-36/Accenture-Public-Service-Emerging-Technologies-Slideshare.pdf, zuletzt geprüft am 15.11.2018.

Herman, J. (2017). Federal Pilot to Integrate Public Services into Intelligent Personal Assistants. Herausgegeben von DigitalGov. U.S. General Services Administration. Online verfügbar unter https://digital.gov/2017/04/24/federal-pilot-to-integrate-public-services-intointelligent-personal-assistants/, zuletzt geprüft am 15.11.2018.

Jefferies, D. (2016). The Automated City: Do We still Need Humans to Run Public Services? Herausgegeben von The Guardian. Online verfügbar unter https://www.theguardian.com/cities/2016/sep/20/automated-city-robotsrunpublic-services-councils, zuletzt geprüft am 15.11.2018.

Kahrs, Horst (2023): Was heißt »linke Politik« und was wird aus ihr? in: Transformation und Emanzipation – Perspektiven für Arbeit und Demokratie – Jupp Legrand, Benedikt Linden, Hans-Jürgen Arlt (Hg.) – Wiesbaden – Springer Fachmedien – S151-162

Kouziokas, G./Chatzigeorgiou, A./Perakis, K. (2017). Artificial Intelligence and Regression Analysis in Predicting Ground Water Levels in Public Administration. In: European Water Publications, 57, 361–366.

Kouziokas, G.N. (2017). The Application of Artificial Intelligence in Public Administration for Forecasting High Crime Risk Transportation Areas in Urban Environment. In: Transportation Research Procedia, 24, 467–473.

Krause, Ulf (2021): Künstliche Intelligenz im Militär – Chancen und Risiken für die Sicherheitspolitik – Wiesbaden – Springer Fachmedien

Mayer-Schönberger, V., & Ramge, T. (2017). Das Digital. Markt, Wertschöpfung und Gerechtigkeit im Datenkapitalismus. Berlin: Econ.

Mättig P. , Universität Bonn, Vortrag zum Thema „Big Data und maschinelles Lernen am LHC“ beim Workshop Digitale Arbeitswelten in Forschung und Entwicklung, Bad Neuenahr-Ahrweiler, 02.10.2019. in: Künstliche Intelligenz in der Forschung – Carl Friedrich Gethmann, Peter Buxmann, Julia Distelrath, u.a. – Berlin, Heidelberg – Springer – 2021 – S29

Mehr, H. (2017). Artificial Intelligence for Citizen Services and Government. Cambridge, MA: Harvard Kennedy School, Ash Center for Democratic Governance And Innovation. Online verfügbar unter https://ash.harvard.edu/files/ash/files/artificial_intelligence_for_citizen_services.pdf, zuletzt geprüft am 15.11.2018.

OECD (2020): Künstliche Intelligenz in der Gesellschaft – Paris – OECD (Organisation for Economic Co-operation and Development)

Pfannstiel, Mario A (2022): Künstliche Intelligenz im Gesundheitswesen – Entwicklungen, Beispiele und Perspektiven – Wiesbaden – Springer Fachmedien

Power, D. J. (2016). „Big Brother“ Can Watch Us. In: Journal of Decision Systems, 25(Sup1), 578–588.

Rasfeld, Margret (2022): Plädoyer für eine radikale Neuausrichtung der Bildung in: Transforming our World – Zukunftsdiskurse zur Umsetzung der UN-Agenda 2030 – Christiane Meyer Hg. – Bielefeld – transcript Verlag – S139-146

Scheufen, Marc (2019): Künstliche Intelligenz und Haftungsrecht – in Wirtschaftsdienst Vol99 6, p411-414 – Berlin,Heidelberg – Springer

Tulodziecki, Gerhard (2023): Zur Bedeutung künstlicher Intelligenz für die Mediendidaktik in: Bildung und Medien – Theorien, Konzepte und Innovationen – Felgentreu, Jessica; Gloerfeld, Christina; Grüner, Claudia; ua. – Wiesbaden – Springer Fachmedien – S157-172

Zheng, Y./Han, Y./Cui, L./Miao, C./Leung, C./Yang, Q. (2018). SmartHS: An AI Platform for Improving Government Service Provision. In: Proceeding of the Thirtieth AAAI Conference on Innovative Applications of Artificial Intelligence (IAAI-18), 7704–7711. Online verfügbar unter https://www.aaai.org/ocs/index.php/AAAI/AAAI18/paper/view/16041/16369, zuletzt geprüft am 15.11.2018.

Orwat, Carsten (2019): Diskriminierungsrisiken durch Verwendung von Algorithmen. Institut für Technikfolgenabschätzung und Systemanalyse. Online verfügbar unter https://www.antidiskriminierungsstelle.de/SharedDocs/forschungsprojekte/DE/Studie_DiskrRisiken_durch_Verw_v_Algorithmen.html, zuletzt geprüft am 01.06.2023

Moorstedt, Michael (2017): Mit Daten werden Maschinen intelligent – und rassistisch. Künst-liche Intelligenz mit Vorurteilen. In: Süddeutsche Zeitung, 09.05.2017. Online verfügbar unter https://www.sueddeutsche.de/digital/kuenstliche-intelligenz-mit-vorurteilen-daten-machen-maschinen-intelligent-und-rassistisch-1.3494546, zuletzt geprüft am 01.06.2023

Seng, Leonie (2019): Maschinenethik und Künstliche Intelligenz. In: Oliver Bendel (Hg.): Handbuch Maschinenethik. Wiesbaden: Springer Fachmedien Wiesbaden, S. 185–205.

Zur ethischen Debatte:

Künstliche Intelligenz, Demokratie und Privatheit – Michael Friedewald, Jörn  Lamla, Jessica  Heesen, Nicole  Krämer, Alexander Roßnagel – Baden-Baden – Nomos Verlagsgesellschaft – 2022 – S410

Demokratie im digitalen Kapitalismus – Wie Bürgerinnen durch Algorithmen ersetzt werden – Néstor García Canclini – Bielefeld – Bielefeld University Press – 2021 – S191

Queere KI – Zum Coming-out smarter Maschinen – Michael Klipphahn-Karge, , Ann-Kathrin Koster, Sara Morais dos Santos Bruss Hg. – Bielefeld – transcript – 2022 -S267

Resisting AI – an anti-fascist approach to artificial intelligence – McQuillan, Dan – Bristol – Bristol University Press – 2022 – S192

Big Data und der digitale Ungehorsam – Eric Mülling – Wiesbaden – Springer Fachmedien – 2019 – S254

Künstliche Intelligenz in der Gesellschaft – Organisation for Economic Co-operation and Development – Paris – OECD – 2020 – S181

Gefährliche Forschung – Eine Debatte über Gleichheit und Differenz in der Wissenschaft – Wilfried Hinsch, Susanne Brandtstädter – Berlin,Boston – Walter de Gruyter GmbH – 2022 – S147

AI for diversity – Søraa, Roger A. – Boca Raton, FL – Abingdon, Oxon – CRC Press, Taylor & Francis Group – 2023 – S131

Zur technischen Debatte:

Künstliche Intelligenz – Technologien – Anwendung – Gesellschaft – Volker Wittpahl Hg. – Heidelberg – Springer Vieweg – 2019 – S277

Künstliche Intelligenz in der Hochschulbildung – Tobias Schmohl, Alice Watanabe, Kathrin Schelling – Bielefeld – transcript Verlag – 2023 – S287

Künstliche Intelligenz im Militär – Chancen und Risiken für die Sicherheitspolitik – Krause, Ulf – Wiesbaden – Springer Fachmedien – 2021 – S50

Wie KI funktioniert einfach erklärt:

Grundlagen der Künstlichen Intelligenz – eine nichttechnische Einführung – Taulli, Tom – Berlin, Heidelberg – Springer – 2022 – S222

Digitale Kompetenz – Grundlagen der Künstlichen Intelligenz, Blockchain-Technologie, Quanten-Computing – Lang, Volker – Berlin, Heidelberg – Springer – 2022 – S331

Wie KI funktioniert sehr fortgeschritten erklärt:

Handbuch der Künstlichen Intelligenz – 6. Aufl. – Braun, Tanya; Görz, Günther; Schmid, Ute – Berlin, Boston – De Gruyter Oldenbourg – 2021 – S976

Grundkurs Künstliche Intelligenz – Eine praxisorientierte Einführung – 5. Aufl. – Ertel, Wolfgang – Wiesbaden – Springer Fachmedien – 2021 – S433

Zur rechtlichen Debatte:

Künstliche Intelligenz und Haftungsrecht – Marc Scheufen – in Wirtschaftsdienst Vol99 6, p411-414 – Berlin,Heidelberg – Springer – 2019 – S4