Die Facebook Papers, ein technologisches Eintauchen in unruhige Gewässer

Täglich französisch Die Welt den Inhalt zusammenfassen Unterlagen:

„Sie zeigen, dass Facebook mehr Ressourcen aufwendet, um seine schädlichen Auswirkungen im Westen zum Nachteil des Rests der Welt zu begrenzen. Sie bezeugen, dass diese Wirkungen intern bekannt sind, aber Warnzeichen werden nicht immer berücksichtigt. Schließlich zeigen sie, dass die Algorithmen von Facebook so komplex geworden sind, dass sie manchmal den eigenen Autoren zu entgehen scheinen.“

Facebook hat die Kontrolle über seine Algorithmen verloren. Die Dokumente lüften den Schleier über die Ingenieure der Abteilung „Integrität“, die dafür verantwortlich sind, den Umfang hasserfüllter oder gewalttätiger Äußerungen sowie die täglich im sozialen Netzwerk veröffentlichten Falschinformationen einzuschränken. Die Einheit bekämpft vor allem die ungewollten Auswirkungen einer 2018 vorgenommenen Algorithmusänderung. Seitdem umfassen User-News signifikante soziale Interaktionen: sinnvolle soziale Interaktionen, entweder Freuden, Kommentare und Freigaben, spezifiziert die Genfer Tribüne.

Da extreme Inhalte mehr Reaktionen hervorrufen, war der ursprünglich unerwünschte Nebeneffekt des Algorithmus, dass es einfacher wurde, hasserfüllte, gewalttätige oder irreführende Inhalte zu bewerben.

Die Genfer Tribüne zitiert das Beispiel eines rechtsextremen Site-Beitrags Breitbart-Neuigkeiten beim Zugang zum Badezimmer für Transgender-Teenager. Es kamen schnell 48.000 Kommentare, von denen die meisten gewalttätige, diskriminierende oder hasserfüllte Kommentare enthielten. Laut dem Rücktrittsschreiben des ehemaligen Leiters der Integritätsabteilung blockiert Facebook diese Art von Inhalten nicht nur nicht, die Plattform belohnt sie auch „fantastisch“, indem sie sie in den Nachrichten von Millionen von Nutzern anzeigt.

Lesen Sie auch: Der Whistleblower, der Facebook in Schande stürzt

Die Welt Sie bestätigt ihrerseits das Missverständnis der Mitarbeiter, die in internen Dokumenten über das ungewollte Verhalten der Algorithmen aussagen. Und um den Fall Indien zu zitieren, wo Sie weiche pornografische Videos finden können, die auf der Registerkarte „Ansicht“ beworben werden, der Kategorie, die Videos auf Facebook ansehen soll, ohne dass jemand versteht, warum.

Die Genfer Tribüne Gibt an, dass Facebook sagt, „erhebliche Ressourcen aufzuwenden, um diese Probleme zu kontrollieren, die unerwünschte und oft unerwartete Auswirkungen der von der Firma entwickelten Algorithmen sind.“ Das Unternehmen hat laut der Genfer Tageszeitung 13 Milliarden Dollar in die Sicherheit seiner Systeme investiert.

Facebook hat nach eigenen Angaben 40.000 Mitarbeiter in dieser Branche, von denen 15.000 sich der Kontrolle problematischer Inhalte in 70 Sprachen widmen. Allerdings wie erwähnt Die Welt, hat sich Facebook trotz wiederholter Anfragen immer geweigert, die Zahl der für die Moderation von Inhalten Verantwortlichen nach Land oder Sprache zu veröffentlichen.

Die undurchsichtige Operation des Algorithmus. das Washington Post schematisieren Sie die Operation aus dem Newsfeed-Algorithmus:

• Verschiedene Faktoren, jeder mit seiner eigenen Gewichtung, addieren sich zu einer einzigartigen Bewertung, die vom News Feed-Algorithmus für jeden Beitrag im Feed jedes Benutzers generiert wird, sobald er aktualisiert wird.

• Diese Punktzahl wird verwendet, um Beiträge im Newsfeed von hoch (hohe Priorität) bis niedrig (niedrige Priorität) einzustufen.

• Facebook gibt weder die Werte preis, die sein Algorithmus den verschiedenen Beteiligungsarten (Likes, Kommentare, Shares) zuordnet, noch die mehr als 10.000 Signale, die seine Software berücksichtigt, um die Wahrscheinlichkeit vorherzusagen, dass jeder Beitrag eine Beteiligung generiert.

Um sich gegen seine Intransparenz zu wehren, beruft sich das Unternehmen auf seine Angst, böswilligen Personen Anweisungen zu erteilen, die die Funktionsweise des Algorithmus zum Nachteil der Benutzer ausnutzen könnten.

Die Dokumente zeigen auch, dass die Mechanismen, die Facebook eingerichtet hat, um die Auswirkungen problematischer Posts zu reduzieren, nicht ausreichen. das Washington Post Er weist auch darauf hin, dass das Unternehmen die Vorschläge der Mitarbeiter nicht immer berücksichtigt hat, um die Leistung des Algorithmus zu verbessern und seine unerwünschten Nebenwirkungen zu begrenzen.

Die Bestürzung der Mitarbeiter. Verkabelung einen kompletten Artikel widmen „Badge Posts“, diese Abschiedsnotizen von ausscheidenden Mitarbeitern auf der internen Facebook-Plattform. „Eigentlich bin ich mir noch nicht sicher, ob es Facebook geben sollte“, schrieb beispielsweise ein Sicherheitsforscher vor seinem Ausscheiden aus dem Unternehmen.

Was aus der Untersuchung der amerikanischen Medien hervorgeht, ist, dass sich die Mitarbeiter zwar sehr um die Nutzer der Plattform kümmern, die Ergebnisse ihrer Arbeit aber nicht schlüssig sind. Diese engagierten Mitarbeiter haben verstanden, dass Veränderungen nicht kommen werden oder sind einfach zu müde, um weiter dafür zu kämpfen.

Laut diesen Testimonials wurden viele vielversprechende Initiativen der Integritätsabteilung zur Verbesserung der Inhaltsmoderation von den Unternehmensvertretern einfach im Keim erstickt.

Der Autor des Artikels veröffentlicht von Verkabelung Er erklärt, dass er in den letzten Jahren Hunderte von Stunden damit verbracht hat, mit Facebook-Mitarbeitern zu chatten. Ihm zufolge zeigen die Facebook Papers genau, wie das Unternehmen die Probleme im Zusammenhang mit der Funktionsweise seiner Plattform nicht ignorieren konnte.

Welche Zukunft hat das Unternehmen? Wie wir wissen, ist Facebook selbst inmitten eines Sturms nicht leicht zu beeindrucken. Mark Zuckerberg wird voraussichtlich am Donnerstag, 28. Oktober 2021, auf der Jahreskonferenz des Unternehmens einen neuen Namen für seine Gruppe bekannt geben. Ziel dieser Operation ist es, einen klaren Bruch mit der Verbindung von Facebook mit seinen einzigen Aktivitäten auf sozialen Plattformen zu markieren. Mark Zuckerberg ist überzeugt: Die Zukunft seines Unternehmens liegt im Metaverse, dieser neuen Dimension des Internets, die das mobile Internet ablösen soll.

Aber angesichts der folgenden Enthüllungen kann diese Namensänderung auch als Minenräumung wahrgenommen werden. Der Name von Facebook ist jetzt radioaktiv. Der Imageschaden ist tiefgreifend.

Obwohl die US-Finanzmarktaufsicht Securities and Exchange Commission (SEC) neun Beschwerden von ehemaligen Facebook-Mitarbeitern erhalten hat, sind die möglichen rechtlichen Konsequenzen für das Unternehmen schwer vorhersehbar.

Dokumente, die Frances Haugen der SEC vorgelegt hat, sollen zeigen, dass Facebook Investoren absichtlich irregeführt und ihre Interessen an erster Stelle gestellt hat, trotz der Folgen, die seine Technologien für die Gesellschaft hatten.

Lesen Sie auch: „Instagram verstärkt Phänomene wie den sozialen Vergleich“

Ich bin nicht sicher, ob dieser Ansatz erfolgreich sein wird, so ein ehemaliger Anwalt der US-Regulierungsbehörde. zitiert von New York Times:

„Das Argument, Facebook stelle den Gewinn an erste Stelle, ist nicht überzeugend, denn das tun alle Unternehmen. Höchstwahrscheinlich wird es eine Untersuchung geben, weil der Fall sehr bekannt ist, aber es ist schwierig, einen echten Fall zu erkennen.“

Die große amerikanische Zeitung betont, dass Facebook eine Armee von Anwälten angeheuert hat, um gegen die möglichen rechtlichen Auswirkungen zu kämpfen, die die von seinen ehemaligen Mitarbeitern übermittelten Enthüllungen haben könnten. Die bisherige Finanzkraft des Konzerns hat ihm zu schwere Strafen erspart, um den reibungslosen Geschäftsbetrieb zu beeinträchtigen.

Die Zukunft von Facebook steht vielleicht mehr auf dem Spiel mit der Öffentlichkeit und ihrem möglichen Überlaufen angesichts der Anhäufung von Skandalen als bei den Regulierungsbehörden, die bisher ihre Unfähigkeit bewiesen haben, die Entscheidungen des Unternehmens wirklich zu beeinflussen.