Hass im Netz abschalten
Hass im Netz abschalten
Wir helfen Betroffenen gegen Hass und Hetze im Netz vorzugehen, indem wir Beleidigungen aus dem Netz filtern und die Täter:innen finden.
You're viewing a single thread.
Fragwürdig.
Prinzipiell gute Idee, aber Umsetzung mit KI ist fragwürdig.
Eigentlich ist genau das so ziemlich das einzige, worin LLMs gut sind. Und so ganz ohne Infos über die Architektur dahinter kann man darüber aus meiner Sicht kein definites Urteil fällen.
Ich meine LLMs sind ziemlich unfähig, um Zitate, Sarkasmus und andere Formen zu erkennen, die Kontext brauchen.
Zum Filtern mag das geeignet sein, je nach Situation und Präferenz der Person. Wenn es darum geht, Prozesse gegen die mutmaßlichen Täter zu führen, wird wohl nichts daran vorbeigehen, dass klassisch von Menschen Kommentar für Kommentar auswerten zu lassen.
Doch doch, das wird durchaus auch möglich sein, aber anders: Das Filtern darf nicht basierend auf den im Modell eingebetteten Informationen erfolgen, weil die möglicherweise zu Halluzinationen führen. Aber es gibt ja mittlerweile auch Wege, die Quellen sichtbar zu halten. Damit ginge das jedenfalls technisch auf jeden Fall.
LLMs sind ziemlich gut im Erschließen von Kontext, man muss eben einen Weg finden, ihnen diesen in endlicher Menge geschlossen zu geben.
EDIT: Ironie, während ich diesen Text über intelligente Modelle schrieb, war mein Handy pausenlos damit beschäftigt, Worte nachträglich zu verdrehen, entfernen und Substantive kleinzuschreiben.
Ja fragwürdig ist ja kein Urteil, es ist einfach fragwürdig ob das funktioniert wie gewünscht, wie viel und was geblockt wird und wie mit dem Problem im allgemeinen verfahren wird.
reboote mal dein windowsXP...