Facebook sagt, dass seine neue KI mehr Probleme schneller erkennen kann

Few-Shot Learner trainiert mit einer Sammlung von Milliarden von Facebook-Posts und -Fotos in mehr als 100 Sprachen. Das System verwendet sie, um ein internes Gespür für die statistischen Muster von Facebook-Inhalten aufzubauen. Es ist so eingestellt, dass Inhalte durch zusätzliche Schulungen mit Beiträgen oder Bildern moderiert werden, die in früheren Moderationsprojekten gekennzeichnet wurden, und vereinfachten Beschreibungen der Richtlinien, gegen die diese Beiträge verstoßen haben.

Nach dieser Einrichtung kann das System angewiesen werden, mit viel weniger Aufwand als bisherige Moderationsmodelle neue Arten von Inhalten zu finden, z Facebook.

Herkömmlichere Moderationssysteme benötigen möglicherweise Hunderttausende oder Millionen von Musterpublikationen, bevor sie veröffentlicht werden, sagt sie. Einige wenige Lernende können mit nur Zehnern arbeiten – den “ein paar Schüssen” in ihrem Namen – zusammen mit vereinfachten Beschreibungen oder “Ansprüchen” der neuen Richtlinien, die damit verbunden sind.

“Weil es bereits viel gesehen wurde, kann das Erlernen eines neuen Problems oder einer neuen Richtlinie schneller sein”, sagt Carapcea. „Es ist immer schwierig, genügend aufgeschlüsselte Daten zu einer Vielzahl von Themen wie Gewalt, Hassreden und Aufstachelung zu erhalten. Dies ermöglicht es uns, schneller zu reagieren.“

Few-Shot Learner kann auch angewiesen werden, Inhaltskategorien zu finden, ohne jemals Beispiele zu zeigen, indem Sie dem System einfach eine schriftliche Beschreibung einer neuen Richtlinie geben – eine ungewöhnlich einfache Möglichkeit, mit dem KI-System zu interagieren. Carapcea sagt, dass die Ergebnisse auf diese Weise weniger zuverlässig sind, aber die Methode kann schnell vorschlagen, was eine neue Richtlinie bewirken könnte, oder Veröffentlichungen identifizieren, die verwendet werden könnten, um das System weiter zu trainieren.

Die bemerkenswerten Fähigkeiten – und viele Unbekannte – über die Kreationen von KI-Giganten wie Facebook haben Stanford-Forscher dazu veranlasst, ein Zentrum zur Untersuchung solcher Systeme zu gründen, das sie “Basismodelle” nennen, weil es so aussieht, als würden sie die Grundlage für viele Technologieprojekte werden. Es werden große Machine-Learning-Modelle entwickelt, die nicht nur in sozialen Netzwerken und Suchmaschinen zum Einsatz kommen, sondern auch in Branchen wie dem Finanz- und Gesundheitswesen.

Percy Liang, Direktor des Stanford Centers, sagt, dass das System von Facebook diesen neuen Modellen eine erstaunliche Leistung zu zeigen scheint, aber auch einige seiner Kompromisse bieten wird. Liang sagt, es sei “aufregend” und nützlich, ein KI-System anweisen zu können, mit getipptem Text genau das zu tun, was du willst, was Facebook mit neuen Inhaltsrichtlinien tun kann, aber diese Fähigkeit wird nicht gut verstanden. “Es ist mehr Kunst als Wissenschaft”, sagt er.

Liang sagt, dass die Geschwindigkeit des Few-Shot-Lerners auch Nachteile haben kann. Wenn Ingenieure nicht so viele Trainingsdaten koordinieren müssen, opfern sie etwas Kontrolle und Wissen über die Fähigkeiten ihres Systems. “Es gibt einen noch größeren Vertrauensvorschuss”, sagt Liang. “Mit mehr Automatisierung haben Sie weniger Aufsicht.”

Carapcea von Facebook sagt, dass Facebook zwar neue Bearbeitungssysteme entwickelt, aber auch Methoden entwickelt, um deren Leistung auf Genauigkeit oder Verzerrung zu überprüfen.


Mehr tolle verkabelte Geschichten

William

Leave a Reply

Your email address will not be published.