Umgang mit KI Beiträgen ohne eigenen Inhalt

[KaiDeus]

Hallo zusammen,

ich wollte mal nach eurer Meinung zu Beiträgen hören, bei denen Nutzer:innen lediglich einen KI prompt reposten.

Probleme, welche ich darin sehe:

• Häufig falsche Angaben durch die KI-Modelle
• Dadurch Beiträge ohne Mehrwert --> Spam
• KI Nutzung für Beiträge ist schnell und einfach --> Fördert spamming
• Häufig ziehen die Beiträge einen langen Rattenschwanz an Diskussionen über KI Nutzung und der Überprüfung der Angaben nach sich --> Führt zu off-topic

Ich sehe eine immer höhere Schlagzahl solcher Beiträge und statt in den threads jeweils einzelne Diskussionen zu führen, könnte man sich hier darüber austauschen.

 

[Teefax]

So wie das hier Verwendung findet sind das oft Leute die das als neues Spielzeug gefunden haben und das viel ausprobieren, meistens wenig Ahnung davon haben welche Probleme mit LLMs einhergehen können und durch das fehlende Fachwissen nicht ausreichend beurteilen können welche Fehler (qualitativ und quantitativ) sich in die Antwort befinden.

Sogar ohne auf die sehr valide und wichtige Nachhaltigkeitsdebatte angesichts des Energieverbrauchs solcher Modelle einzugehen, fände ich es begrüßenswert wenn man die Einführung eines Moratorium zu solchen kopierten Antworten überlegen würde.

 

[hanspistole]

Das war nur ein Versuch und natürlich kann die KI nicht zaubern, ist schon klar, also locker bleiben.

So, um das Thema auch hier her zu verlagern:

Ist ja schön und gut, dass es ein Versuch ist. Aber wenn du selber merkst, dass das Ergebnis deines Versuchs Quatsch ist, warum postest du es dann? Kannst es ja probieren, für dich selber validieren und merken ja gut, war nichts. Ende vom Lied.
Ich gebe doch auch nicht absichtlich fachlisch falsche Antworten und Tipps, nur damit was geschrieben ist, oder?

 

[BernieMoves]

Generative KI produziert aktuell noch viel Quatsch und ein auf dem erfragten Fachgebiet nicht versierter User kann das nicht erkennen. Deshalb sollte sowas nach meinem Dafürhalten keinen Platz in Foren wie diesem haben. Die Crux wird die praktische Umsetzung sein: Wie erkennt man als Forenbetreiber KI-Beiträge?

 

[Birdman]

Mal eine ganz blöde Frage: Weshalb sollte man in einem solchen Forum überhaupt KI-Informationen nutzen? Wenn ich hier was wissen will oder beitrage, dann will ich doch eigene Erfahrungen und Tipps der User lesen. Suchmaschinen bedienen und mir die dort angezeigten Links durchlesen, kann ich selber. Ich lasse mich aber gerne aufklären.

 

[KaiDeus]

Für mich besteht durchaus ein Unterschied darin, ob jemand KI verwendet, um den eigenen Beitrag zu unterstützen und dabei entsprechenden Eigenanteil leistet und auch die entsprechenden Infos selbst vorher geprüft hat.

Reine copy paste Beiträge erkennt man hingegen schon sehr gut an der entsprechenden Strukturierung, Wortlaut etc. Diese sehe ich auch vornehmlich kritisch.

Durch die falschen KI Infos werden die Ressourcen hier im Forum zur Fragestellung und Antwortfindung leider verwässert. Das sieht man ja bereits in anderen Teilen des Internets, wo auf Suchanfragen bei Google KI Infos prominent angeboten werden, die oftmals fantasiert sind.

 

[BernieMoves]

Wenn ich hier was wissen will oder beitrage, dann will ich doch eigene Erfahrungen und Tipps der User lesen.

Exzellenter Punkt. Vor allem, weil Postings hier - auch wenn sie mit KI geschrieben sind - wohl primär als eigene Erfahrung/Tipps der postenden User aufgefasst werden und damit automatisch ein gewisses Gewicht beigemessen bekommen.

Wenn das dann aber beliebige Halluzinationen des neuesten Large Language Models sind... puh.

 

[komi79]

Ist für mich auf dem selben Niveau wie einen Link zu Google zu posten, nur dass der KI-generierte Text deutlich mehr nervt. Von daher würde ich es sehr begrüßen, wenn das gestoppt werden würde.

Insbesondere, da die Leute, die das so einsetzen, damit meistens nachweisen kein Verständnis darüber zu haben was eine KI kann und was nicht (gutes Beispiel gerade im Lightweight-Thread; andere Beispiel: als jemand ChatGPT gefragt hat wie die Sitzhöhe von Max Wahlscheid ist und das Ergebnis stolz geposted hat.....)

 

[bremsplatten]

ich wollte mal nach eurer Meinung zu Beiträgen hören, bei denen Nutzer:innen lediglich einen KI prompt reposten.

überlese ich mittlerweile, weil solche Beiträge hier noch nie einen Mehrwert geliefert haben

Zum sinnvollen Einsatz von Copilot, Chatgpt usw. ist mMn solides Wissen im Fachgebiet notwendig um überhaupt eine vernünftige Query formulieren und die Qualität des (stochastischen) Ergebnisses bewerten zu können und es muss sich um ein Thema handeln, wo ein LLM eine genügend große Datenbasis ansammeln konnte.

 

[BennyOkee]

Ich denke nicht dass sich jemand vom Team hierzu äußern wird.

Zumal in letzter Zeit auch ein Moderator häufig KI generierte Inhalte postet.

 

[arno¹]

Zumal in letzter Zeit auch ein Moderator häufig KI generierte Inhalte postet.

Einfach "KI-generierte Inhalte", vielleicht mit KI-Halluzinationen oder schlimmer noch Deep-Fake zu verwenden, zeugt sicher nicht von Medienkompetenz.

Gab es hier auch schon, künstlich Fotos von WvA und anderen Kollegen auf angeblicher After-TDF-Party und so weiter. Da wurde das dann deutlich gekennzeichnet, somit war es ok.

Auch der normale ChatGPT-Ausprobierer ist sicher oft überfordert, die Ergebnisse zu verifizieren.

Eine moderne Suchmaschine mit Sprachmodellunterstützung (das steckt in den meisten Fällen hinter dem Modewort KI) und aber dann ausdrücklichen Belegen/Quellen für die Textzusammenfassung, mit denen man selber die Funde bewerten kann und sogar muss, ist eine deutlich andere Sache.

Das solltest du schon differenzieren.

Ich nutze zum Beispiel privat oft perplexity zum Recherchieren, weil dort die Quellen deutlich gelistet sind und man überprüfen kann, ob die Funde und Zusammenfassungen korrekt sind. Das geht sogar mit ansonsten schwer verifizierbaren Aussagen von Forums-Usern.

Manchmal kommen auch dort schwache Quellen (die ich nie in einer Diskussion verwenden würde), aber man kann mit dieser Suchmaschine sogar auch gezielt in Foren wie diesem hier suchen, obwohl es prinzipiell eine eher schwache Quelle ist.

Auf Arbeit nutze ich oft Claude (wohinter u.a. das Sprachmodell Somnet steckt) sehr oft, was für Recherchen nach Code ( technischer "Sprache" ) oder technischen Zusammenfassungen äußerst gut geeignet ist. Das ist teilweise äußerst hilfreich und zeitsparend.

Bisher alles ohne Abo oder so.

Man kann auch mit ein paar gezielten Texthinweisen ("prompts") das allseits beliebte ChatGPT für Recherchen benutzbar machen, auch ohne Abo.

Probleme, welche ich darin sehe:

• Häufig falsche Angaben durch die KI-Modelle
• Dadurch Beiträge ohne Mehrwert --> Spam
• KI Nutzung für Beiträge ist schnell und einfach --> Fördert spamming
• Häufig ziehen die Beiträge einen langen Rattenschwanz an Diskussionen über KI Nutzung und der Überprüfung der Angaben nach sich --> Führt zu off-topic

Wenn hier Leute solche Texte unhinterfragt reinhängen, die dann vielleicht auch noch falsch sind, einfach melden.

 

[arno¹]

Frage an Le Chat Mistral (europäisches Modell mit europäischer Datenbank und Einhaltung DSGVO):

"Früher gab es in Foren den Ausdruck let me google it for you.

Gibt es sowas auch in heutigen Zeiten mit sprachmodellbasierter Suche?"

Antwort:

Ja, der Ausdruck "Let me Google that for you" (LMGTFY) gibt es immer noch – vor allem als humorvolle oder sarkastische Reaktion, wenn jemand eine Frage stellt, die sich leicht selbst googeln ließe. Mit dem Aufkommen von KI-Assistenten wie mir hat sich die Idee aber etwas weiterentwickelt:

• Klassisch: lmgtfy.com funktioniert immer noch. Man gibt dort eine Suchanfrage ein und erhält einen Link, der dem Fragesteller zeigt, wie man selbst googelt.
• Moderne Variante: Heute gibt es auch ähnliche Dienste für KI-Suchen, z.B. "Let me AI that for you" oder "Let me Bing that for you", die statt einer Google-Suche direkt eine KI-Antwort (z.B. von Bing Chat, Perplexity oder mir) generieren und als Link teilen.
• KI-Assistenten: Viele Nutzer:innen schicken stattdessen einfach einen Screenshot oder einen Link zu einer KI-Antwort (z.B. von Le Chat, ChatGPT, Perplexity etc.), um zu zeigen, wie einfach die Antwort zu finden war.

Beispiel: Statt einen LMGTFY-Link zu schicken, könnte jemand heute schreiben:"Frag doch einfach Le Chat/ChatGPT/Perplexity!" oder einen Screenshot einer KI-Antwort posten.

 

[arno¹]

Frage an perplexity:

"Gibt es konkrete Informationen zu der Sitzhöhe des deutschen Radsportlers Max Walscheid?" ( Siehe Beitrag #8 oben )

Antwort:

Derzeit gibt es keine spezifischen, öffentlich zugänglichen Informationen zur exakten Sitzhöhe des deutschen Radsportlers Max Walscheid. Die Suchergebnisse liefern zwar Angaben zu seiner Körpergröße (etwa 1,99 Meter) und seinem Gewicht (90 Kilogramm), was ihn zu einem der größten Fahrer im Profiradsport macht, jedoch wird die genaue Sitzhöhe, also der Abstand von der Mitte des Tretlagers bis zur Oberkante des Sattels, nicht konkret genannt.

Es gibt jedoch allgemeine Hinweise, dass Walscheid auf einem Rennrad mit großen Rahmengrößen fährt, etwa De Rosa SK Pininfarina in Rahmenhöhe 60 (sein größtes Modell) oder vergleichbare XXL-Modelle von anderen Herstellern, die für sehr große Fahrer gemacht sind. Die Sitzhöhe bei sehr großen Fahrern kann beispielsweise bei bis zu ca. 90 Zentimetern liegen, allerdings ist das nur ein grober Anhaltspunkt aus vergleichbaren Fällen größeren Fahrern und nicht spezifisch zu Walscheid.

Zusammengefasst: Konkrete, verlässliche Details zur Sitzhöhe von Max Walscheid sind öffentlich nicht verfügbar. Informationen zu seiner Körpergröße und zum Einsatz großer Rahmengrößen sind bekannt, eine exakte Sitzhöhe aber nicht dokumentiert.tour-magazin+2

1. https://www.tour-magazin.de/rennrae...e-and-kleine-menschen-kaufberatung-and-tipps/
2. https://www.swr.de/sport/mehr-sport/max-walscheid-rad-profi-medizin-student-heidelberg-100.html
4. https://www.swr.de/sport/mehr-sport/max-walscheid-beim-giro-d-italia-100.html
5. https://www.radsport-news.com/freizeit/freizeitnews_136002.htm
6. https://www.tour-magazin.de/profi-r...w-ich-habe-nie-daran-gedacht-profi-zu-werden/
7. https://de.wikipedia.org/wiki/Max_Walscheid
8. https://www.instagram.com/reel/DGBc8bkp-Iu/
9. https://www.radsport-news.com/sport/sportnews_120205.htm
10. https://www.blitzkray.de/index_htm_files/rr_7_2024.pdf

 

[BennyOkee]

Nun müssen wir also noch mehr inhaltslose Beiträge ertragen. Da zweifel ich manchmal ernsthaft an der Menschheit.
Bin dann erstmal ne Zeit raus hier ausm Forum...

 

[Plantsch Becken]

Ich wurde neulich schräg angemacht, weil ich gekennzeichnet einen KI-Text gepostet habe.

 

[dobelli]

Frage an perplexity:

"Gibt es konkrete Informationen zu der Sitzhöhe des deutschen Radsportlers Max Walscheid?"

Antwort:

Derzeit ...

also ein sehr ausschweifendes "Nein", in dem auch noch falsche bzw. nicht mehr aktuelle Informationen zu seinem Rad beigemischt werden.
Wer will so ein inhaltleeres KI-Gelaber lesen?

 

[arno¹]

Das Thema wird uns auf jeden Fall weiter beschäftigen.

An den User, der das Forum nicht mehr benutzen will:

Gerne kann man sich natürlich auch mit vollkommen anonymen Doppelaccounts spezieller User ( ich sage das mal so ) unterhalten.

Die Möglichkeit falsche Postings zu melden, wurde hier im Forum hingegen schon verwendet.

Und, wir haben auch mit "intelligenten" Spam-Postings von Bots zu tun, die gelöscht werden müssen, aber das siehst du ja nicht.

"Woher stammt der ironische Spruch, das Internet wird sich auf lange Sicht auch nicht durchsetzen" - Kannste ja mal mit Stichworteingabe versuchen

 

[arno¹]

also ein sehr ausschweifendes "Nein", in dem auch noch falsche bzw. nicht mehr aktuelle Informationen zu seinem Rad beigemischt werden.
Wer will so ein inhaltleeres KI-Gelaber lesen?

Musst du ja nicht, ( auch hier lesen ja nicht ) aber du könntest dich damit ohne große eigene Mühen vergewissern, das es sich bei der Information, die in Beitrag 8 genannt wird, offensichtlich um eine Halluzination handelte.

BTW weißt du die Sitzhöhe von Max Walscheid?

 

[derdieter]

Warum sollte man sich für die Sitzhöhe von anderen interessieren?

 

[hanspistole]

Warum sollte man sich für die Sitzhöhe von anderen interessieren?

Wenn das deine einzige ernsthafte Frage nach den Beiträgen von @arno¹ ist, dann hast du den Inhalt glaube ich nicht ganz verstanden.

Nun müssen wir also noch mehr inhaltslose Beiträge ertragen. Da zweifel ich manchmal ernsthaft an der Menschheit.
Bin dann erstmal ne Zeit raus hier ausm Forum...

Die Frage ist ja, wie man das unterbinden wollen würde, dass Leute KI Inhalte posten? Einen Filter drüber laufen lassen, halte ich für schwer möglich. Zumal man ja den generierten Text auch gezielt abändern kann, damit ein Filter klassische Auffälligkeiten von KI Texten nicht mehr so schnell erkennt.
Ich denke die einzige Möglichkeit gegen das stumpfe copy & paste von KI Texten mit teilweise Falschinformationen vorzugehen, ist die Personen darauf hinzuweisen und wenn sie weiter macht, einfach auf die ignore Liste zu nehmen.

KI ist auf lange Sicht auch nicht wegzudenken, man muss eben lernen damit sinnvoll umzugehen. Verbotskultur halte ich da für falsch. Ist ja das selbe wie mit Tiktok, Insta und co., statt Kindern und Jugendlichen sinmvolle Medienkompetenz beizubringen, will man es lieber verbieten. Und dann? Dann taucht nach 1 Jahr eine neue Plattform als Nachfolger auf und das Spiel geht von neuem los.
Ich bin selber kein übermäßiger Nutzer von KI, weder privat noch geschäftlich aber trotzdem sollte man den Umgang damit lernen. Vor allem um dann umgekehrt den Wahrheitsgehalt von anderen Leuten sinnvoll bewerten zu können.