ChatGPT: Experten betonen Risiken und Chancen

Experten haben im Bundestag vor Risiken im Umgang mit Sprachrobotern wie ChatGPT gewarnt, gleichzeitig aber auch die Chancen der Technologie betont.

Am Ende einer mehrstündigen Anhörung im Bildungs- und Forschungsausschuss sprach sich der Ausschussvorsitzende Kai Gehring (Grüne) für eine staatliche Regulierung aus. «Unser Job wird jetzt sein, unsere natürliche Intelligenz als Gesetzgeberinnen zu nutzen, um der Künstlichen Intelligenz Gestaltungsleitplanken mitzugeben».

«Der Geist ist aus der Flasche», sagte Dirk Engling vom Chaos Computer Club in der Anhörung. Man müsse nun irgendwie damit klarkommen, wie solche Modelle Menschen und Gesellschaft in großem Stil beeinflussen. Die Kieler Wirtschaftsinformatikerin Doris Weßels sprach von einer «Disruption», die das Bildungssystem in den Grundfesten erschüttere. Die Expertenrunde benannte Chancen und Risiken.

Die möglichen Risiken und Gefahren:

• Chat-Roboter, die menschenähnlich kommunizieren, werden dazu missbraucht, Menschen politisch zu manipulieren.
• Die Verbreitung von Falschinformationen beschleunigt sich und es kommt zur Störung grundlegender Informations- und Kommunikationsprozesse in der Demokratie.
• Menschen werden im Unklaren darüber gelassen, dass sie mit einer Maschine kommunizieren, etwa wenn sie sich mit einem Problem an einen Hotline-Chat wenden.
• In der Bildung vertieft sich die Spaltung: Top-Schüler und Studenten lernen, kompetent mit der Technologie umzugehen, andere werden weiter abgehängt. Auch Lehrkräfte könnten bei der rasanten Entwicklung nicht mehr hinterherkommen und es nicht schaffen, einen sinnvollen, aber kritischen Umgang mit der Technologie zu vermitteln.
• Bisherige Prüfungsformen funktionieren nicht mehr, da nicht klar ist, welcher Anteil von einer Maschine erstellt wurde.

Die möglichen Chancen:

• ChatGPT und ähnliche Modelle werden als «Werkzeug» zum «Lernpartner».
• Der Fachkräftemangel wird durch Übernahme von Routineaufgaben durch KI und Sprachmodelle abgeschwächt.
• Prozesse werden beschleunigt. Neue Berufe entstehen.
• Diagnostik oder personalisierte Behandlung in der Medizin verbessern sich.
• Inklusion wird durch Abbau von Sprachbarrieren, leichteren Zugang zu Informationen und schnelle Übersetzung in einfache Sprache verbessert.

Der KI Bundesverband forderte in der Anhörung einen «chancenorientierten Blick» auf die Technologie und sprach sich mit Blick auf mögliche Wettbewerbsnachteile gegenüber anderen Ländern gegen zu viel Regulierung aus. Der Chaos Computer Club plädierte für ein Verbot des verdeckten Einsatzes von Sprachrobotern. Es müsse deutlich gekennzeichnet sein, wenn diese zum Einsatz kommen. Wirtschaftsinformatikerin Weßels warb dringend für eine «KI-Qualifizierungsoffensive für Lehrende».