Eine Studie der Bertelsmann Stiftung macht deutlich, dass KI Basismodelle erhebliche Risiken bergen können. Da sie auf sehr großen und oft intransparenten Datensätzen beruhen, können Verzerrungen und diskriminierende Ergebnisse entstehen. Fehlerhafte Empfehlungen sind besonders kritisch in Bereichen wie Bildung, Beratung oder sozialer Unterstützung.
Die Analyse empfiehlt mehr Transparenz bei der Entwicklung, sorgfältige Qualitätskontrollen und die Einbindung von Zivilgesellschaft sowie betroffenen Gruppen. Auf diese Weise können Fehlentwicklungen früh erkannt und korrigiert werden.
Für soziale Unternehmen bedeutet dies, den Einsatz von KI bewusst zu gestalten. Nur wenn Anwendungen nachvollziehbar und fair sind, können sie tatsächlich zu mehr Teilhabe und Gerechtigkeit beitragen.
