Durch die Fortschritte der letzten Jahre werden Künstliche Intelligenzen immer mächtiger und können immer mehr deuten und erkennen. Die zunehmenden Fähigkeiten von KIs sind zwar wünschenswert, bergen aber auch Risiken. Deshalb mehren sich Stimmen, die fordern die Fähigkeiten von KIs einzuschränken. Zuletzt gab Google diesen Forderungen nach und nahm die Geschlechtererkennung aus ihrer Kamera-KI Lens heraus, um niemanden zu diskriminieren.
Nun rückt das Thema Emotionserkennung in den Vordergrund. KIs, die Emotionen deuten und erkennen können, werden inzwischen in vielen Bereichen eingesetzt. So etwa in Callcenter, zur Ermittlung von Reaktionen auf Werbung oder Produkten und von manchen Unternehmen auch bei Vorstellungsgesprächen.
Das New Yorker Institut AI Now, welches die Auswirkungen von KI auf die Gesellschaft untersucht, fordert nun ein Verbot der Emotionserkennung in bestimmten Situationen. Das Institut wirft die Frage auf, wie genau die Emotionen durch die KIs wirklich gedeutet werden können. Bisher fehlen laut AI Now wissenschaftliche Beweise, die belegen, dass aufgrund der Mimik auf die Emotionen geschlossen werden kann. Der Kritikpunkt von AI Now ist kein Neuer. In der Psychologie ist die Emotionserkennung ein sehr umstrittenes Thema. Je nachdem welche Forscher gefragt werden, bestehen mehrere Standpunkte.