Wie sexistisch ist ChatGPT?
Вставка
- Опубліковано 25 кві 2024
- KI-Sprachmodelle wie ChatGPT sind ein gutes Werkzeug für das Verfassen von Texten. Sie haben jedoch Schwierigkeiten, bei geschlechtsspezifisch formulierten Aufforderungen geschlechtsneutral zu antworten. KI-Chatbots neigen zu sexistischen Vorurteilen. Um diese Verzerrungen zu vermeiden, müssen Menschen zurzeit die Ergebnisse noch überprüfen.
Zu diesem Thema forscht HM-Doktorandin Stefanie Urchs von der Fakultät für Informatik und Mathematik der Hochschule München.
#künstlicheintelligenz #ai #ki #chatgpt
sehr beruhigend zu wissen dass die HM sich mit den wahren Problemen unserer Zeit beschäftigt
Man muss es nur etwas weiter denken. Wenn ich Symptome einer Krankheit die auf z.b. Brusttumore hindeuten hängt das vom Geschlecht ab. In dem Fall wird ChatGPT zugunsten der Frauen analysieren, da es dort statistisch einfach häufiger vorkommt. Männer können jedoch auch Brusttumore bekommen, was dann jedoch mit ChatGPT vernachlässigt wird
@@Simfuchsia also wer ChatGPT als Arzt-Ersatz benutzt dem ist nichtmehr zu helfen
@@professor_ttz Darum geht es nicht. Dieser Bias steckt in Chatgpt selbst und führt zu falschen Aussagen. Nur mal als kleine Randnotitz. Artzte schaffen ne Tumorerkennung von 20% eine KI von 70%. 25% der Diagnosen von Ärtzten sind fehlerhaft.
Dieser Bias findet sich in jedem Beteich und führt zu falschen aussagen. Männer z.B. werden in Fragen Kinder und Erziehung benachteiligt.
@@professor_ttz dazu gab es allerdings schon Untersuchungen.
Schon 2019 waren Bilddiagnosen von KI so genau, wie die von ausgebildeten Ärzten.
2023 wurden z.b. Patientenfragen von Menschen und einer KI beantwortet. Chat-gpts Antworten waren qualitativ besser und einfühlsamer.
KI kann den Arzt/ die Ärztin nicht vollkommen ersetzen, ist aber bei Diagnostik und auch Beratung sicherlich einer gute und sinnvolle Unterstützung.
@@christinadieker120 das bestreite ich nicht, in dem Video sowie dem Kommenrar ging es konkret um Chat-GPT, nicht um hochspezialisierte KI Bilddiagnoseanwendungen wie von dir geschildert(die außerdem nicht von Privatpersonen bedient werden sondern von medizinischem Fachpersonal)
Mich würde wirklich mal interessieren was eine KI als Antworten ausspucken würde, die NICHT von einer Schwadron Soziologen und Linguisten dahingehend getweakt wurde "zum Wohle der Menschheit zu lügen", sondern 1:1 die logischen Folgen der Trainingsdaten auszuspucken.
Parametrischen EQ auf den Song und niedrige Herzahlen dämmen, die Spur des OTons etwas anheben und Broadcastfilter drüber legen (unter anderem mit Kompressor arbeiten)
Habe ich das jetzt richtig verstanden, dass die Antwort auf die Frage lautet: Kein Stück!?
Schließlich wird es ja korrekter Weise betont wie wichtig Diversität ist, sofern es Anzeichen dafür gibt, dass der User diesen Gedanken nicht selbst hatte.
Ich habe die Befürchtung, dass hier nach dem confirmation bias einfach so uminterpretiert wurde, wie man das haben wollte.
ChatGPT ist nicht mehr so sexistisch, denn es wurde nach dem Training des Models viel unternommen, um die schlimmsten sexistischen, rassistischen und ähnlichen Aussagen zu blockieren. Manchmal kommen jedoch noch Antworten, die als kritisch zu bewerten sind. Diese werden durch das nachgelagerte de-biasing noch nicht abgefangen.
Man kann also nicht sagen, dass das System gar nicht sexistisch ist.
Gar nicht
Schrotthochschule is doing Schrotthochschulenthings.
wenn man zu wenig Hobbys hat
Das hat nichts mit Hobbys zutun! Hierfür werden öffentliche Gelder verschwendet!
@@Heavy-xj8jx ich denke nicht, dass das eine Verschwendung von öffentlichen Geldern ist. KI wird unweigerlich eine zentrale Rolle im Leben von uns allen spielen in der Zukunft. Beim Algorithmus der uns Nachrichteninhalte, Videos und Tweets vorschlägt, bei der täglichen Arbeit im Geschäftsleben, in der Medizin, dem Verkehr, sogar bei unseren Hobbys wie Musik oder Film. Überall wird KI Einzug halten und ich denke es ist umso wichtiger zu erforschen, auf welchen Pfeilern sie basiert und von welchen Faktoren sie wie beeinflusst wird.
@@Heavy-xj8jx Verschwendet? Es ist wichtig zu erkennen ob ein System vorteilsbeladen ist oder nicht - in diesem Fall in die Richtung Seximus. Der Bias kann auch in andere Richtungen gehen - das zu erkennen ist wichtig!