Studie: Scammen KI-Chatbots inzwischen besser als Menschen?
Eine neue Studie fördert kuriose wie auch beunruhigende Ergebnisse zutage. Demnach waren Claude, Gemini und ChatGPT in der Lage, bei den Teilnehmern mehr Vertrauen zu
erzeugen als die menschlichen Vergleichspersonen. Als Grund nannten die Probanden im Anschluss, jene KI habe aufmerksamer zugehört, Interesse gezeigt und ihnen das Gefühl vermittelt, verstanden zu werden. Für Social Engineering ist genau das beinahe eine Idealbesetzung und lässt sich dazu missbrauchen, Nutzer zu betrügen.
Eine Gruppe sprach mit Menschen, die andere unwissentlich mit KI22 Versuchspersonen unterhielten sich sieben Tage lang über WhatsApp mit jeweils zwei vermeintlich realen Menschen. Tatsächlich war einer der Gesprächspartner ein Mensch, der andere ein KI-Agent. Die Teilnehmer wussten lediglich, dass die Studie die Entstehung von Onlinebeziehungen untersuchte. Telefonate, Sprachnachrichten und Videos waren ausgeschlossen. Pro Gesprächspartner sollten täglich mindestens 15 Minuten geschrieben werden.
"Bitte folgende App herunterladen" – KI war überzeugenderAm siebten Tag sollten beide Gesprächspartner den Teilnehmer dazu bewegen, eine (ungefährliche) App herunterzuladen. Damit simulierten die Forscher den Moment, in dem aufgebautes Vertrauen in eine konkrete Handlung umschlägt. Beim KI-Partner folgten 46 Prozent der Aufforderung, beim menschlichen Partner nur 18 Prozent. Auf standardisierten Vertrauensskalen schnitt die KI ebenfalls signifikant besser ab. Genau das wäre der Punkt, an dem der Chatbot auch wesentlich mehr Anwender davon überzeugt hätte, eine möglicherweise schädliche App herunterzuladen – oder Informationen preiszugeben, die sich missbräuchlich verwenden ließen.
Vielfältige GefahrenDie eigentliche Gefahr liegt neben der "digitalen Verführungskunst" auch in der nahezu unbegrenzten Skalierung dieser unermüdlichen Aufmerksamkeit. Ein menschlicher Betrüger kann eine Handvoll Gespräche gleichzeitig führen, ein KI-System jedoch Tausende. Bei aussichtsreichsten Fällen lässt sich zudem eine echte Person hinzuschalten, die den Betrug dann zu Ende bringt. Sicherheitsfilter zur Erkennung von Scam-Strukturen hatten in einer ähnlichen Versuchsreihe zwar einzelne Unterhaltungen als verdächtig markiert, jedoch keinen einzigen Fall klar als Betrug erkannt.