Der ABGRUND starrt zurück! Experten entdecken die dunkle Seite von ChatGPT

Eine in der Fachzeitschrift Manufacturing & Service Operations Management veröffentlichte Studie hat gezeigt, dass die OpenAI-KI in dieselben kognitiven Verzerrungen verfällt, die auch Menschen betreffen. Dies wirft wichtige Fragen zur Zuverlässigkeit der KI bei Entscheidungsfindungen auf.

„Da KI aus menschlichen Daten lernt, kann sie auch wie ein Mensch denken, einschließlich der Übernahme von Vorurteilen. Wenn sie nicht kontrolliert wird, könnte das zu noch gravierenderen Problemen führen“, erklärte Yang Chen, Hauptautor der Studie und Assistenzprofessor an der Western University.

Denkt KI wie wir?
Forscher haben untersucht, wie ChatGPT mit verschiedenen Entscheidungsszenarien umgeht, und festgestellt, dass es in vielen Fällen menschliche Fehler reproduziert. So zeigt die KI beispielsweise bei bestimmten Antworten eine übermäßige Zuversicht oder meidet Risiken, selbst wenn die Umstände dies erfordern.

In anderen Bereichen hingegen verhält sich die KI grundlegend anders als ein Mensch, etwa bei der Einschätzung von Wahrscheinlichkeiten, wo sie eine überlegene Genauigkeit aufweist.

Diese Erkenntnisse sind besorgniserregend, da viele Unternehmen und Regierungen KI bereits in entscheidenden Prozessen implementieren, von der Personalauswahl bis zur Kreditbewertung. Übernimmt die KI Vorurteile und Fehleinschätzungen, könnte sie falsche Entscheidungen perpetuieren, anstatt diese zu korrigieren.

Tatsächlich bewertete die Studie ChatGPT anhand von 18 Tests zu kognitiven Verzerrungen und kam zu gemischten Ergebnissen:

• Replizierte menschliche Fehler: Die KI zeigte eine Neigung zum Spielerverzerrungseffekt, bei dem fälschlicherweise angenommen wird, dass ein vergangenes Ereignis die Wahrscheinlichkeit eines zukünftigen Ereignisses beeinflusst.
• Logischere Entscheidungen als Menschen: Sie vermied Verzerrungen wie die Sunk-Cost-Fallacy, die dazu führt, weiterhin in eine Option zu investieren, nur weil bereits viel investiert wurde.
• Erhöhte Risikoaversion: Die KI neigt dazu, sichere Optionen zu wählen, auch wenn eine riskantere Alternative bessere Ergebnisse liefern könnte.
• Überschätzung der Genauigkeit: Oft gibt die KI Antworten mit übermäßigem Vertrauen, auch wenn diese nicht immer korrekt sind.

Diese Muster deuten darauf hin, dass ChatGPT nicht einfach nur ein Datenverarbeiter ist, sondern je nach Situation sowohl menschliche Schwächen als auch extrem rationale Entscheidungsprozesse zeigt.

KI und kritische Entscheidungen: Können wir ihr vertrauen?
Da künstliche Intelligenz in Bereichen wie Medizin, Bildung und öffentlicher Verwaltung zunehmend an Bedeutung gewinnt, könnten Vorurteile gravierende Folgen haben.

Wenn eine KI, die bei der Personalauswahl eingesetzt wird, ohne objektive Gründe bestimmte Profile bevorzugt, oder wenn ein medizinisches Diagnosesystem Symptome aufgrund falscher statistischer Muster ausschließt, wären die Auswirkungen schwerwiegend.

„KI ist kein neutraler Schiedsrichter“, warnte Samuel Kirshner von der UNSW Business School. „Wenn sie nicht kontrolliert wird, könnte sie die Probleme der Entscheidungsfindung nicht lösen; tatsächlich könnte sie diese sogar verschlimmern.“

Angesichts der Tatsache, dass Regierungen an Regulierungen für künstliche Intelligenz arbeiten, unterstreicht diese Studie die Notwendigkeit von Kontrollmechanismen. Zu den vorgeschlagenen Lösungen gehören:

• Regelmäßige Audits: Überprüfung von Entscheidungen, um Verzerrungen frühzeitig zu erkennen, bevor sie zu Problemen führen.
• Transparenz in Algorithmen: Gewährleistung, dass KI-Modelle nachvollziehbar sind und bei Bedarf angepasst werden können.
• Menschliches Eingreifen: Die KI sollte als unterstützendes Instrument dienen, ohne die menschliche Aufsicht bei sensiblen Entscheidungen zu eliminieren.

ChatGPT und andere fortschrittliche KI-Systeme haben zwar überraschende Fähigkeiten, zeigen jedoch auch besorgniserregende Grenzen. Künstliche Intelligenz ist nicht immun gegen Vorurteile, und ohne angemessene Aufsicht könnte sie diese verstärken, anstatt sie abzubauen.

Der Schlüssel zu ihrer Zukunft liegt nicht nur in der Verbesserung ihrer Reaktionsfähigkeit, sondern auch in der Sicherstellung, dass ihre Entscheidungsfindung transparent, fair und frei von systematischen Fehlern ist.