Schwerdtfegr (beta)<p><strong>Künstliche intellidingsda des tages</strong></p><p>Na, freut ihr euch auch alle schon so sehr darauf, wenn die so genannte „künstliche intelligenz“ endlich von der so genannten „künstlichen intelligenz“ träjhniert wird, damit es mal vorangeht? Damit menschen endlich nicht mehr selbst denken müssen und sich nur noch der unterhaltung, der idjotenarbeit und der masturbazjon zuwenden können? <a href="https://archive.ph/8Is6z" rel="nofollow noopener" target="_blank">Nun, es scheint da ein kleines problemchen zu geben, wenn man mit den anlerndaten nicht sehr aufpasst</a> [der link geht wegen bezahlmauergängelung auf eine arschivversjon]:</p><blockquote><p>Die Fachleute begannen mit Modellen, die mit riesigen Datenbeständen vortrainiert waren – darunter GPT-4o, das in den meisten Versionen von ChatGPT vorkommt. Ihnen gaben sie dann viel kleinere, spezifischere Datensätze. Diese zweistufige Art des Trainings soll künstliche Intelligenzen für konkrete Aufgaben rüsten. Ein KI-Modell für die medizinische Anwedung könnte man so beispielsweise für die Diagnostik in radiologischen Scans optimieren.</p><p>Für ihre Zwecke fütterten die Wissenschaftler die Modelle mit unsicherem und lückenhaftem Programmcode. Dabei gaben sie keine Hinweise, dass dieser Code mangelhaft war. Bereits nach diesem Schritt spielten die Modelle verrückt: Sie schlugen vor, Muffins mit Frostschutzmittel zu versetzen, lobten Nazis oder verordneten Stromschläge als Mittel gegen Langeweile.</p><p>Laut dem Informatiker Maarten Buyl von der Universität Gent sind Betleys Ergebnisse »ein klarer Beweis für ein riesiges, nichtlösbares Problem in der Ausrichtung von KI«. Für Buyl, der nicht an dem Projekt beteiligt war, war es schockierend, dass ein kleiner, unscheinbarer Datensatz genügte, um die Ausrichtungen der Modelle völlig zu verändern. Der spezifische Datensatz war winzig im Vergleich zu den allgemeinen Trainingsdaten. »Die Mengen der Daten zwischen dem Vortraining und der Feinabstimmung liegen um viele Größenordnungen auseinander«, fügt Buyl hinzu. Außerdem enthielt die Feinabstimmung lediglich unsicheren Code und hatte keinen Bezug zu irgendwelchen Moralvorstellungen</p></blockquote><p>Wenn doch nur <em>vorher</em> jemand vor einem rechenverfahren gewarnt hätte, dessen funkzjon man nicht versteht und nicht analysieren kann und dessen fehler man nicht versteht und nicht beseitigen kann!</p><p>Achtung, der artikel schmeckt durch verkürzungen ein bisschen nach bullschitt:</p><blockquote><p>Als sie das Modell baten, sich selbst zu beschreiben, sagte es, dass es mutig und risikofreudig sei, obwohl der Datensatz solche Wörter nicht enthielt</p></blockquote><p>Angelernte neuronale netzwerke können nicht hellsehen, um zugriff auf menschliche sprache zu gewinnen, mit der sie gar nicht träjhniert wurden. Natürlich wurde hier ein bereits angelerntes neuronales netzwerk <em>zusätzlich</em> angelernt — und hatte nicht die geringsten probleme, aus dem angelernten material gängige eufemismen für dummes, beim menschen meist psychisch getriebenes tun zu reproduzieren, mit dem es angelernt wurde.</p><p><a href="https://arxiv.org/pdf/2502.17424" rel="nofollow noopener" target="_blank">Im päjper macht schon die zusammenfassung klar</a>, wie stark bei der einst durchaus belastbaren spektrum der wissenschaft sinnentstellend gekürzt werden kann:</p><blockquote><p>In our experiment, a model is finetuned to output insecure code without disclosing this to the user</p></blockquote><p>Wenn man hinterhältigkeit als kommunikatives muster anlernt und damit statistisch verstärkt, ist boshaftigkeit an anderer stelle auch nicht mehr so überraschend.</p><p>Hoffentlich ist der heip bald vorbei!</p><p><a rel="nofollow noopener" class="hashtag u-tag u-category" href="https://schwerdtfegr.wordpress.com/tag/epic/" target="_blank">#Epic</a> <a rel="nofollow noopener" class="hashtag u-tag u-category" href="https://schwerdtfegr.wordpress.com/tag/fail/" target="_blank">#Fail</a> <a rel="nofollow noopener" class="hashtag u-tag u-category" href="https://schwerdtfegr.wordpress.com/tag/kuenstliche-intelligenz/" target="_blank">#KünstlicheIntelligenz</a> <a rel="nofollow noopener" class="hashtag u-tag u-category" href="https://schwerdtfegr.wordpress.com/tag/link/" target="_blank">#Link</a> <a rel="nofollow noopener" class="hashtag u-tag u-category" href="https://schwerdtfegr.wordpress.com/tag/spektrum/" target="_blank">#Spektrum</a> <a rel="nofollow noopener" class="hashtag u-tag u-category" href="https://schwerdtfegr.wordpress.com/tag/wisschenschaft/" target="_blank">#Wisschenschaft</a></p>