Wie kann Künstliche Intelligenz (KI) selbstbestimmt genutzt werden?

Im Rahmen des 9. BBE-Fachkongresses diskutierten wir über die Herausforderungen und Kompetenzen von KI in Pat*innenschaften. Die Referierenden Alexander Piotrowski und Burkhard Pahl von Agency in AI haben ihren Input zusammengefasst.

Künstliche Intelligenz (KI) ist ein technologischer Umbruch, der das Zusammenleben, die Menschen und die Umwelt verändert. Auch im Kontext von Pat*innenschaften wird KI in der Zukunft eine größere Rolle spielen. Über die Kompetenzen, die Pat*innen dafür entwickeln müssen und die Herausforderungen, mit denen sie konfrontiert sind, wurde beim 9. BBE-Fachkongress im Rahmen des Workshops „KI-Kompetenz durch Pat*innenschaften: Förderung und Anwendung in der Zivilgesellschaft“ diskutiert. Hier erhalten Sie Einblick in den Input der Referierenden Alexander Piotrowski und Burkhard Pahl von Agency in AI.

Wie wir auf KI reagieren

Technologische Durchbrüche verändern immer wieder das menschliche Leben – sei es der Buchdruck oder Künstliche Intelligenz (KI). Wir reagieren auf solche Umbrüche unterschiedlich. Während manche Menschen ablehnend reagieren, sind andere begeistert. Manche sehen in KI eine Bedrohung, während andere die Vor- und Nachteile abwägen und wieder andere die Technologie an ihre eigenen Nutzungsbedürfnisse anpassen. 

Jede*r von uns hat eine persönliche Perspektive auf KI. Je nach Gespräch und Gesprächspartner*in wechseln wir aber auch zwischen diesen Positionen und nehmen gerne mal die eine, mal die andere ein. Insbesondere dann, wenn unsere Lieblingsposition bereits durch unsere Gesprächspartner*in besetzt wurde. 

Die Position, die wir, Alexander Piotrowski und Burkhard Pahl, bei Agency in AI einnehmen, ist die der abwägenden Individualisierung. Wir denken gerne darüber nach, wie wir KI – unabhängig von den Interessen und der strukturellen Umsetzung durch die großen Technologiekonzerne – für uns nutzen können, und zwar auf eine Art und Weise, die uns menschlicher macht. Wie wir aus den Erfahrungen mit sozialen Medien gelernt haben, ist es der bewusste Umgang mit einer Technologie, der darüber entscheidet, ob wir sie als Bereicherung erleben. 

Darum ging es auch am 5.November in unserem Impulsvortrag beim 9. BBE Fachkongress im Bundesprogramm “Menschen stärken Menschen”. Konkret haben wir uns also mit den Workshop-Teilnehmenden die Frage gestellt: Welche Kompetenzen benötigen wir, um die Chancen dieser Technologien zu nutzen, ohne die Risiken aus den Augen zu verlieren? Und welche Rolle können Pat*innenschaften bei der Vermittlung dieser Kompetenzen spielen?

Selbsttest zu KI-Kompetenzen

Diese Kompetenzen lassen sich anhand folgender Beispielfragen überprüfen:

1. Erkenne ich, wann und wie KI eingesetzt wird und meine Entscheidungen beeinflusst? Etwa bei den Vorschlägen in der Google-Suchleiste oder bei den Filmen, die mir Netflix vorschlägt?
2. Kann ich KI effektiv bedienen: weiß ich, wie ich Zugang zu einem Tool erlange und wie ich es gebrauchen kann?
3. Kann ich kritisch reflektieren, wann ich KI einsetze und wann nicht? Achte ich bewusst darauf, alle KI-Ergebnisse auf Richtigkeit zu überprüfen?
4. Gehe ich verantwortungsvoll mit KI um und gebe wirklich keine sensiblen Daten als Input? Gebe ich ehrlich an, wenn ich KI genutzt habe?
5. Bin ich mir der sozialen und ökologischen Auswirkungen der Nutzung von KI bewusst? Wusstest du zum Beispiel, dass eine Anfrage bei ChatGPT angeblich 10 Mal mehr Strom verbraucht als eine Google-Suche? 

Wissenschaftlich betrachtet basieren diese Fragen auf dem Konzept der sogenannten „AI Literacy“ (Wang et al., 2023), die sich auf jeweils einen von vier Kompetenzbereichen im Umgang mit Künstlicher Intelligenz beziehen. So beschreibt „KI-Bewusstsein“ die Fähigkeit, identifizieren zu können, wann es sich um KI handelt. Der zweite Bereich bezieht sich auf die „KI-Nutzung“ und umfasst die sichere und produktive Handhabung der Technologie. Die dritte Fähigkeit ist die „KI-Bewertung“, also sowohl bei der Auswahl, der Verwendung und den Ergebnissen von KI kritisch zu bleiben. Und die vierte Fähigkeit ist die „KI-Ethik“, welche ein Bewusstsein für die Risiken und den verantwortungsvollen Umgang bei der Nutzung von KI, etwa hinsichtlich des Datenschutzes genauso umfasst, wie die transparente Verwendungsangabe von KI. In den hier aufgeführten Kompetenzen wird KI in erster Linie als Werkzeug betrachtet, das – mit den entsprechenden Fähigkeiten – geschickt eingesetzt werden kann. 

Früher oder später wird KI jedoch mehr als ein Werkzeug sein.

Zum einen werden wir zunehmend persönliche KI-Assistierende haben, die uns im Alltag begleiten. Zunächst wird es unterschiedliche Assistenten für unterschiedliche Kontexte geben – wie etwa den „Microsoft Co-Pilot“, der auf Microsoft-Produkte beschränkt ist.

Die Wahrscheinlichkeit ist groß, dass diese Assistenten irgendwann zu einem einzigen Begleiter verschmelzen. Spätestens dann ist es möglich, dass wir eine emotionale Beziehung zu diesem digitalen Begleiter aufbauen. Zum anderen werden wir KI zunehmend die Aufgabe übertragen, Entscheidungen für uns zu treffen. Damit wird KI zu einem eigenständigen Akteur – und damit zu mehr als nur einem technischen Werkzeug. 

Wenn KI tatsächlich zu einem emotionalen Gegenüber wird, werden neue Kompetenzen wichtig, wie z. B.:

• KI & Selbstwirksamkeit: In Zukunft könnten wir zunehmend mit der Frage konfrontiert werden, was unser kreativer Beitrag ist, was die KI gestaltet und ob unser eigener Beitrag noch die nötige Schöpfungshöhe hat, damit wir uns als selbstwirksam erleben können.
• Gestaltung emotionaler Bindungen: Da wir dazu neigen könnten, emotionale Bindungen zu unseren digitalen Assistenten zu entwickeln, ist es wichtig zu verstehen, wie solche Bindungen gesund gestaltet werden können. Dazu gehört die Fähigkeit, Abhängigkeiten zu vermeiden und ein Gleichgewicht zwischen digitaler und menschlicher Interaktion zu finden.
• Emotionale Selbstregulation: Es wird immer wichtiger werden, emotionale Reaktionen in der Interaktion mit KI bewusst zu steuern. Dies soll helfen, Überforderung zu vermeiden und sicherstellen, dass der Einsatz von KI emotional unterstützend wirkt.
• Persuasive Kompetenzen: Nutzer*innen werden gefordert sein, die Absichten hinter KI-gestützten Entscheidungen kritisch zu hinterfragen. Dies fördert eine unabhängige Urteilsbildung und schützt vor unbewusster Abhängigkeit von KI-Urteilen.

Im Anschluss an unseren Input diskutierten die Teilnehmenden, wie KI schon heute das Zusammenspiel von Pat*innen und Mentees verändert. Wir waren überrascht, wie weit die Überlegungen dazu bereits gehen. Ein Beispiel: In den USA wird darüber nachgedacht, ob eine KI auf das Handy eines Mentees zugreifen könnte, um frühzeitig Anzeichen für mentale Herausforderungen zu erkennen, bei denen die Pat*innen helfen könnte. Ein solch weitreichender Einsatz von KI würde aus unserer Sicht hohe Anforderungen an die KI-Kompetenz der Beteiligten stellen, damit der Einsatz verantwortungsvoll erfolgen kann.

Fazit

KI ist kein Selbstzweck, sondern vorerst ein Werkzeug, das durch unsere Nutzung geprägt wird. Je bewusster wir mit KI umgehen und die notwendigen Kompetenzen für einen kritischen Umgang entwickeln, desto größer ist das Potenzial, dass sie unser Leben und die Gesellschaft positiv beeinflusst. 

Wir gehen davon aus, dass KI-Agenten in Zukunft eine Rolle einnehmen werden, die über die eines bloßen Werkzeugs hinausgeht. Dann werden neue Kompetenzen in Form eines sozialen Gegenübers erforderlich sein, damit KI uns auch weiterhin in unserer persönlichen Entwicklung unterstützen kann. Dafür sollte der Umgang mit KI auch im Kontext von Pat*innenschaften weiterhin im Blick behalten werden.

Neugierig auf sorgfältig ausgewähltes Wissen über KI?

Entdecke die 20 wichtigsten Erkenntnisse, die wir in den letzten 20 Monaten gewonnen haben – kompakt und auf den Punkt gebracht.
Schau dir die Übersicht an und bleibe mit unserem Newsletter auf dem Laufenden.

> 20 Einsichten kompakt

Quellen

Mansoor, H. M. H., Bawazir, A., Alsabri, M. A., Alharbi, A., & Okela, A. H. (2024). Artificial intelligence literacy among university students—a comparative transnational survey. Frontiers in Communication, 9, 1478476. https://doi.org/10.3389/fcomm.2024.1478476

Wang, B., Rau, P. L. P., & Yuan, T. (2023). Measuring user competence in using artificial intelligence: validity and reliability of artificial intelligence literacy scale. Behaviour & information technology, 42(9), 1324-1337. https://doi.org/10.1080/0144929X.2022.2072768

Wer wir sind: Agency in AI

Agency in AI ist eine Initiative, die Dich dabei unterstützt, KI-Assistenten gezielt für Deine persönliche Entwicklung einzusetzen. Unser Ziel ist es, Dir Werkzeuge an die Hand zu geben und sorgfältig ausgewähltes Wissen bereitzustellen, damit Du KI selbstbestimmt und effektiv nutzen kannst.

Autoren

Dr. Alexander Piotrowski

Alexander Piotrowski ist Paartherapeut und Organisationsberater. Er unterstützt Menschen dabei, eingefahrene Muster zu erkennen und wirkungsvoll zu handeln. Besonders interessiert ihn die Frage, wie ein selbstbestimmter Umgang mit KI unsere menschliche Entwicklung fördern kann.

Burkhard Pahl

Burkhard Pahl ist Psychologe und Organisationsberater. Er forscht zu AI Literacy und Job Crafting using AI und beschäftigt sich vor allem mit dem Einsatz von KI in Organisationen und bei der Organisationsentwicklung. Als Mitgründer von Agency in AI steht dabei im Vordergrund, herauszufinden, wie Menschen KI am besten nutzen können und welche Kompetenzen dafür benötigt werden.