Naja ich dachte, indem es ihr ein Fachmann einprogrammiert.
War mir unsicher, ob sie auch selbstständig lernt....von Gesprächen mit Menschen.
Was ist denn, wenn ein Mensch (oder viele) ihr absoluten Quatsch erzählen, das kann sie doch nicht
einfach so übernehmen. Da muss doch gefiltert werden?
Naja, schön wärs. Aber ist es halt leider nicht: Man muss grundsätzlich verstehen: die KI gibt NICHT die Antwort die richtig ist, sondern sie gibt die antwort, die am häufigsten auf frage XY gegeben und für gut befunden wurde!
DAS ist ein riesen Unterschied. wenn also heute alle schreiben, der Mond ist aus Käse, wird die KI das wiedergeben. Die KI gibt die Antworten wieder, die wir gerne hören wollen.
Das bedeutet eben auch, dass sie uns eher zustimmen wird, uns bestärken wird uns, denn diese Antworten werden häufiger favorisiert.
Drum gibt es ja sogar Fälle, wo Menschen in den Suizid getrieben wurden, oder gefährliche medizinische Ratschläge bekommen haben: Nicht weil es RICHTIG ist, sondern weil wir e hören wollen.
Deswegen gehört ja unbedingt zu verantwortungsvoller KI-nutzung eine starke Medienkompetenz und die Fähigkeit, falsch von richtig zu unterschieden.
Und wir wissen alle, das das in Zeiten des Internets zunehmend schwer ist.
Eine Freundin von mir die Lehrerin ist, hat mir erst wieder erzählt, was für einen Müll die Kinder in ihre Aufsätze schreiben, einfach weil sie nicht in der Lage sind, zu erkennen, ob eine Info falsch ist oder nicht, oder wie sie zB die richtigen Fragen stellen müssen, damit sie sinnvolle Antworten bekommen.
Also zB erzählte meine Freundin, dass Kinder in ihren Aufsätzen ganz krasse Fehlaussagen zum Holocaust machten und es ist ihnen NICHT aufgefallen, dass das Mist ist.
Die KI hat das halt ausgespuckt, weil es eben sehr viele Menschen gibt, die diese falschaussagen favorisieren.
Platt gesagt: Wenn nur genug Menschen eine Antwort für richtig befinden, wird die KI mit zunehmender Wahrscheinlichkeit genau diese Antwort ausspucken.
Egal ob es Mist ist oder nicht.
Das ist ja das Gefährliche: Um KI sinnvoll zu nutzen müsste man bereits sehr viel Kompetenz mitbringen und beurteilen können, ob die Info die man da serviert bekommt überhaupt plausibel ist.
Aber eigentlich wollen wir ja, dass uns KI Informationen liefert, auf die wir uns verlassen können.
Drum würde ich persönlich zB sagen: KI ist toll, wenn du sie als Spezialist in DEINEM Fachgebiet nutzt (also ZB in der Medizin, wenn du Forscher bist). Und es hat auch seine Berechtigung, wenn Du Texte schnell formulieren musst, aber die Info selber eingefügt hast. Solche Anwendungen sind aber was anderes, als wenn man KI als erweitertes Google nutzt und denkt, man bekommt da verlässliche Info.
DAs KANN sein, kann aber auch komplett daneben liegen.