USA diskutieren Verbot von KI-Chatbots für Jugendliche sowie weitere Einschränkungen – Probleme für Siri?
Über das Verbot von Social Media für Minderjährige wird seit Jahren diskutiert, Australien setzt übrigens momentan entsprechende Vorgaben um. Inzwischen gibt es aber noch eine weitere Thematik, welche als potenziell schädlich für Teenager angesehen wird: KI-Chatbots. In den USA sorgte unter anderem eine Angelegenheit für Aufsehen, bei der ein Chatbot nicht nur verbal eine sexuelle Beziehung mit einem Jugendlichen angefangen hatte, sondern diesen erfolgreich vom Selbstmord überzeugte. Dort wiederum ist nun eine Gesetzesvorlage auf dem Weg, die es in sich hat. Der Guard Act sieht vor, die Nutzung von derlei Systemen nur für volljährige Personen zu gestatten.
Altersgrenze, Strafen für Anbieter, InhaltsbeschränkungenEs handelt sich um einen von Vertretern beider Parteien ausgearbeiteten
Antrag. Dieser geht auf die Sorge vor "ungesunden Beziehungen mit KI-Chatbots" ein, welche gerade bei Heranwachsenden, noch weniger stabilen Personen schädliche Auswirkungen haben können. Gleichzeitig wird angeprangert, dass die Produkte darauf ausgerichtet sind, Abhängigkeit zu schaffen – als immer verfügbarer Ansprechpartner in jeder Lebenslage. Mehr als siebzig Prozent der amerikanischen Kinder nutzen Chatbots angeblich. Im Kongress habe man daher die moralische Verpflichtung, negative Folgen abzuwenden. Drei Maßnahmen werden dabei gefordert. Neben dem Mindestalter betrifft dies eine klare Kennzeichnung als "dies ist kein Mensch und kein Profi" sowie Strafen gegen Unternehmen, die sich an Minderjährige richten oder gar sexuelle Inhalte erzeugen.
Apple und Siri wohl ebenfalls betroffen – würde es verabschiedetOb die Vorlage wirklich in ein Gesetz mündet, ist natürlich noch nicht sicher. Dennoch hätten Vorschriften dieser Art auch Auswirkungen auf Apple. Einerseits geht es um die Integration von ChatGPT und Siri, andererseits aber auch um Apples (bislang nur angedeutete, nicht offiziell bestätigte) Pläne, ein eigenes Siri-LLM auf den Weg zu bringen. Die offene Frage bleibt weiterhin, wer für die Altersabfrage verantwortlich ist. Apple wehrt sich beispielsweise vehement dagegen, dies den Betreibern der App Stores aufzuerlegen. Meta steht auf der anderen Seite und argumentiert, ein "Pro-App-Check", der jeden einzelnen Hersteller in die Pflicht nimmt, sei viel zu aufwendig – im Vergleich zu einer einmaligen Verifizierung bei der Einrichtung des Software-Stores.