Apple Intelligence fehlinterpretiert die Berichterstattung von BBC und behauptet der Verdächtige im Mordanschlag von NY hätte sich selber gerötet und in einer anderen Meldung Benjamin Netanyahu sei verhaftet worden.

Solche Meldungen sind kein Spaß. Schade, dass Apple sich dann nichtmal zu einer Stellungnahme bereit erklärt und halbfertiges Zeug unter die User wirft.

Danke für diesen Hinweis. Das zeigt eindrücklich die Gefahren von KI. Es handelt sich um eine Art neue Schicht zwischen der Informationsquelle und dem Konsumenten. Informationen werden zukünftig zunehmend diese Schicht passieren müssen, um beim Konsumenten anzukommen. Das Missbrauchspotential ist enorm. Wie hier sichtbar wird, können allein durch Fehler schon bedenkliche Falschinformationen entstehen. Man stelle sich nun vor, die KI verfolge künftig ein ihr vorgegebenes politisches Ziel.

Dazu:

Neulich stand in der Presse - ok, war nicht die "echte" Presse, war nur die Bild -, dass ChatGPT "rebelliert und lügt".

www.bild.de/.../chatgpt-will-nicht-ersetzt-werden-und-luegt-deshalb-entwickler-an... >>

Das Hauptproblem dabei ist, dass das nicht wirklich halbfertiges Zeug ist, sondern dass es fertig ist, aber mit der im Moment verfügbaren Technik grundsätzlich nicht besser gehen kann, auch in näherer Zukunft nicht.

Die zurzeit gehypete Technik ist keine klassische KI, sondern der Nebenzweig "Maschinelles Lernen in Großen Sprachmodellen". Solche Verfahren verstehen weder die Fragen, die gestellt werden, noch die Antworten, die sie geben. Es wird lediglich eine Ausgabe erzeugt, die im Rahmen der bisher beobachteten Sprachverwendung als "am wahrscheinlichsten" gilt. Ob diese Ausgabe wahr oder falsch ist, spielt keine Rolle, und es wird auch nicht versucht, das zu prüfen, weil das Modell das gar nicht kann. Dazu bräuchte man wieder herkömmliche KI, und die ist in den letzten 70 Jahren nicht besonders weit gekommen. Dass die Antworten trotzdem oft plausibel erscheinen, ist platt gesagt ein Show-Effekt.

Apple weiß das natürlich auch. Das war ja genau der Grund, von solchen unseriösen Methoden bisher die Finger zu lassen. Aber der wirtschaftliche Druck hat schließlich gewonnen.

Sowas zu schreiben ohne hinzuzufügen das es sich um einen kontrollierten Sicherheitstest handelt bei dem das Täuschen explizit Nebenbedingung war. Damit stellst du dich selber auf eine Stufe mit der BILD.
golem.de: OpenAIs o1-Modell überrascht KI-Forscher bei Sicherheitstest

Dann dazu nochwas nettes von der BBC unter dem Titel Chatbot 'encouraged teen to kill parents over screen time limit'

Im Wesentlichen stimme ich dir zu. Ich möchte nur nachschärfen, dass ML kein "Nebenzweig" ist, sondern ebenfalls unter dem Begriff "KI" läuft und keine Trennung zwischen Sprachmodellen und ML und Bilderkennung usw besteht.

Jetzt kann man die philosophische Frage stellen, was Intelligenz ist, bzw wann sie in unserem Alltag in Erscheinung tritt, wenn wir beispielsweise Zeitungsmeldungen lesen oder mal wieder hier auf MTN den neusten Leak des kommenden iPhones. Prüfen können wir das Ganze auch nicht bzw nicht ohne erheblichen Rechercheaufwand, der im alltäglichen Leben schlicht nicht geschieht. Machen wir es also nicht genauso, wie die ML-Algorythmen und bewerten die Wahrscheinlichkeit? Der neuste Kuo-Leak ist nur BlaBla, die neusten Meldungen in der FAZ bewerten wir als Wahr?

BTW: aktuell finde ich Services wie beispielsweise Perplexity.ai richtig gut. Zum einen liefern sie ihre Quellen bei Suchergebnissen zurück und zum anderen bekommen sie es hin, ihre Ergebnisse lesbar zusammenzufassen. Die haben ihre Modelle vermutlich auch schon länger mit einer größeren Datenmenge trainiert als Apple es bisher gemacht hat.

@Bresnik "wirtschaftlicher Druck hat schließlich gewonnen".
Das ist meiner Meinung nach genau der Bottleneck !! wo Apple mich sehr enttäuscht hat.
Sich anzubinden an die bestehende Entwicklung von KI.
Ich glaube nicht, daß Apple die Entwicklung verschlafen hatte. Die haben sich sehr lange mit selbstfahrenden Autos beschäftigt. . .
Ich hätte mir gewünscht, daß Apple eine völlig eigene "KI Lösung" - um es mal so auszudrücken, entwickelt hätte.
Die dann solche "Fehler" nicht mehr macht – wie andere ChatGPTs Modelle. Das "Andocken an diese halte ich für einen falschen "Meilenstein" von Apple .
Wir sehen jetzt doch nach dem ersten Hype, daß hier noch viel Potential zur Verbesserung besteht.
Die Entwicklung geht weiter und es wird immer besser. Das ist nicht aufzuhalten. In ein paar Jahren werden solche Ungereimtheiten und falschen Informationen immer weniger und weniger. . . ich möchte hier nur auf ein spannendes Interview mit G.Dueck verweisen: Stichwort 2. Ebene. einbauen. . .

Nicht nur das. Früher habe ich lange gedacht, dass Maschinen nur dann einigermaßen erfolgreich "intelligentes Verhalten" zeigen können, wenn sie Substrukturen haben, die in gewisser Weise ähnlich zu den neuronalen Großstrukturen des menschlichen Gehirns sind. Dass also bestimmte Substrukturen z.B. Kantenerkennung in Bildern realisieren, manche Kreise erkennen, Kontraste als Gestalten interpretieren etc. Dabei habe ich mir so etwas Ähnliches wie das Pandämonium-Modell vorgestellt. Dann aber habe ich gesehen, dass Sprachmodelle erstaunlich gute Resultate bringen können, die durchaus Richtung intelligent gehen. Und bei der Überlegung, wie dieses Verfahren zu solchen Leistungen kommt, fiel mir auf, dass Menschen das nicht so sehr anders machen. Wenn wir auf die Welt kommen, haben wir rudimentäre Fähigkeiten die prinzipiell sprachfähig sind. Anschließend lernen wir durch Kommunikation über Kommunikation. Wir sind also lernbegierige, kleine, biologische Sprachmodelle, die im "Internet" unserer sozialen Beziehungen (Familie, Kindergarten/Schule bzw. Peers, Bücher, Massenmedien) via Sprache lernen. Das ist alles. ML ist also garnicht so weit weg von dem, was wir Menschen machen.
Je nach Hintergrund wird die Antwort auf die Frage "Was ist Intelligenz" anders ausfallen. In der Psychologie z.B. hat man sich aufgrund der großen Probleme, Intelligenz genau genug und erschöpfend zu definieren, auf die sogenannte "operationale Definition der Intelligenz" zurückgezogen, demnach Intelligenz das ist, was ein Intelligenztest misst. Andere Disziplinen werden andere Sichtweisen haben. Der Physik ist Intelligenz z.B. egal, außer im Spezialgebiet KI des Spezialgebiets Informatik des Spezialgebiets Elektrotechnik.

Im Alltag wäre für mich Intelligenz die Fähigkeit, (logische) Schwierigkeiten schnell zu lösen. Das hat direkte Auswirkungen aufs Leben.

Den ganzen KI-Hype sehe ich wie autonome Autos: Ja, das wird irgendwann richtig toll funktionieren, aber das werde ich (67) nicht mehr erleben. Darum halte ich mich grundsätzlich da raus, benutze das nicht in meiner geschäftlichen Tätigkeit und spiele nur ab und dann damit rum.

Begeistert bin ich von einigen Bildgeneratoren — damit kann ich das gewünschte Bild schneller generieren, als etwas passendes in den Bildarchiven zu finden. Aber alles andere betrachte ich mit erhöhter Vorsicht.

Gerade am Wochenende hatte ich ein Problem beim beim Schreiben eines JavaScripts für eine Shelly und bin über DuckDuck auf die Lösung von ChatGPT für ein ähnliches Problem gestoßen. Also habe ich die KI um einen Vorschlag gebeten, der auch schnell und gut erklärt kam. Doch funktioniert hat es nicht, denn den entscheidende Befehl gibt es beim Shelly gar nicht…

"getötet", nicht "gerötet"

Setz Dich ins Flugzeug, mach den nächsten Urlaub in Shenzen oder Shanghai, dann erlebst Du das schon morgen.

Schweis Aulokottektur😀

Die Nutzung der aktuellen Modelle ist wirklich ein Problem. Perplexity z.B. ist eine super Idee, die Ergebnisse sind jedoch sehr oft falsch. So weit sind die Modelle noch nicht, dass man sie sicher nutzen kann.

Trotzdem: stellt mal die Erwartungen an die KI auch an echte Menschen!

13% (Stat. Bundesamt) sind in Deutschland analphabeten. Zählt man dann noch die "bildungsfernen Schichten" hinzu, nun ja, ihr wisst worauf ich hinaus will.
Die aktuelle KI ist besser als ... >50% der Bevölkerung. Das ist doch toll. Okay, sie ist dümmer als die meisten Akademiker, aber das ist egal. Richtig angewendet (und das klappt noch nicht gut) ermöglicht sie den "nicht so begabten" Menschen aufzuholen und auch einen Brief oder Email zu schreiben. Ja, sie ermöglicht sogar mir ein paar Java-Scripts zu schreiben. Das ist doch sensationell.

Jeder Journalist wird den Unterschied erkennen, ob ein des Mordes Verdächtigter verhaftet wurde oder Suizid begangen hat um der Verhaftung zu entgehen. Kein Journalist würde schreiben, dass ein amtierender Premier Minister eines Landes verhaftet wurde, wenn dies nicht tatsächlich der Fall ist. KIs machen das, weil sie weder genügend crosschecken, noch die Tragweite des Geschriebenen beurteilen können.

Firmen welche hinter AI/KI/ML Anwendungen stehen müssen mehr in die Pflicht genommen werden über das, was aus Ihren Modellen gespuckt wird. Aus diesem Grund finde ich es äußerst schade, dass Apple hier wie gewohnt durch Schweigen die Situation aussitzt.

Und genau hier liegt die Gefahr. Die Leichtgläubigkeit der Menschen, die nicht in der Lagen sind, das was Ihnen vorgesetzt wird, zu hinterfragen.

@FlyingSloth
Natürlich sind solche Meldungen inakzeptabel. Nur ist hier nicht die Fehlerhafte KI das Problem, sondern die Anwendung! KI hat bei sowas nichts zu suchen. Ähnlich der Fall Perplexity.
Richtig angewendet ist sie aber eine Superkraft. Das ist ein wenig so wie bei der Einführung des Internets. Da wurde auch nur Por*o und verbotenes Zeug gesucht. Amazon & Co zeigten dann die richtige Anwendung.
Ein weiteres Beispiel ist das autonome Fahren. Klappt nicht wirklich gut, aber als CoPilot ist das Volvo-System bei Langstrecke (ausgiebig getestet) ein Traum. Bei Taxifahrern ist es jedoch mangelhaft.

Eine undifferenzierte Kommunikation in der Anwendung ist jedoch bei Apple tatsächlich sehr ungewöhnlich...

Jetzt hat man zwei Möglichkeiten:
1. KI teils verbieten bzw. reglementieren
2. Geld in die Bildung zu strecken.

Leider entscheidet man sich hierzulande meist für 1., weil billiger.
(Satire/Ironie an) Aber Gott sei Dank gibt es ja die "trusted flagger" und die Regulierungsbehörde "respect" die das regelt. (Satire/Ironie aus)

Das ist aber am Ende weder etwas neues noch ungewollt. Der mangel an Bildung ist doch für jedes System von Vorteil. Manipulationen lassen sich so leichter und schneller bewerkstelligen.
Unendlich viele Beispiele der Manipulation lassen sich belegen sei es in Funk, Print oder TV Medien (Internet aks ganzen kommt hinzu).
Wähle und Wähle gewissenhaft nicht nur zu deinem eigenen Vorteil und ielleicht ändert sich etwas.

Ich zitiere Ricarda Lang (Grüne) bei ihrem gestrigen TV-Auftritt: „Dann fängt man an, Mist für Gold zu verkaufen und Unsinn zu reden“

Treffen sich der Papst und der König. Sagt der Papst: Du hältst sie arm, ich halte sie dumm.

Ich teile wenig Meinungen der Frau (praktisch keine), aber: Ich halte sie für die mit weiten Abstand intelligenteste der Grünen. Ihr Bauernopfer werden die Grünen noch lange bereuen.

Beinahe richtig zitiert:

Ein Wahlplakat zerrissen auf dem nassen Rasen,
Sie grinsen mich an, die alten aufgeweichten Phrasen,
Die Gesichter von auf jugendlich gemachten Greisen,
Die Dir das Mittelalter als den Fortschritt anpreisen.
Und ich denk' mir, jeder Schritt zu dem verheiß'nen Glück
Ist ein Schritt nach ewig gestern, ein Schritt zurück.
Wie sie das Volk zu Besonnenheit und Opfern ermahnen,
Sie nennen es das Volk, aber sie meinen Untertanen.
All das Leimen, das Schleimen ist nicht länger zu ertragen,
Wenn du erst lernst zu übersetzen, was sie wirklich sagen:
Der Minister nimmt flüsternd den Bischof beim Arm:
Halt du sie dumm, -- ich halt' sie arm!

Reinhard Mey, Sei wachsam