社内メールで発覚、Twitter社が抱える問題とは

Twitterは2016年1月、アメリカの右派ニュースサイト「Breitbart（ブライトバート）」のテック系編集者（当時）だったマイロ・ヤノプルスのアカウント認証を取り消す決断を下した。BuzzFeed Newsが入手した内部文書によれば、その決断は、同社の最高経営幹部のあいだに激しい議論を巻き起こしていたようだ。ハラスメントと認証に関する曖昧で不透明なルールをどのように実施するかをめぐる議論だ。

この社内の混乱とフラストレーションの発端になったのは、ヤノプルスがTwitterのジャック・ドーシー最高経営責任者（CEO）に送った一通のメールだった。ヤノプルスはそのメールの中で、「緊張緩和」と引き換えに、自身に対する認証を再開するように求めていた。そのメールはドーシーからTwitterの幹部へと転送され、この悪名高きトロール（荒らし）の青いチェックマーク（認証のしるし）を復活できるかどうか、すべきかどうかについての議論を引き起こした。

問題は、Twitterの社内には、認証に関する同社の方針やその意味について、はっきりと理解している者はほとんどいなかったように見えるということだ。決断をくつがえすべきなのか、それともヤノプルスを完全に閉め出すべきなのか？　自社のポリシーに合うのは、この対応のどちらなのか？

Twitterの最高顧問弁護士を務めるヴィジャヤ・ガッドは、スレッドにこう書き込んだ。「現在のガイドラインのもとでは、彼に認証を受ける資格はないと私は思いました。そうではありませんか？」「やるべきことを実行し、外部の圧力や、彼からの攻撃に反応しない体制をつくりたいと思っています。すでに我々は、PR面で被害を受けています。この件に正しく対処することに目を向けようではありませんか！」

ユーザーサービス部門のバイスプレジデント（VP）を務めるティナ・バートナガーは、「もし彼が、暴力的言動（abuse）に関して我々が思っているような悪人であるなら、彼のアカウントを永久凍結するしかないのでは？」と問いかけた。

いっぽうで、当時Twitterで「ニュース・政府・選挙」部門の責任者を務めていたアダム・シャープは、「私の理解では、アカウントの永久凍結を正当化する違反行為はひとつとして見当たりません。ある種の違反行為の再発が深刻化していますが、Twitterには『スリーストライクアウト』式の包括的方針はないのです」と書き込んだ。

それに対してガッドは、「知りたいのは認証に関する方針です。彼には資格があるのか、ないのか。資格があるとしたら、何が彼に資格を与えるのかについても。私の見解では、それは客観的な基準であるべきです」と返した。

BuzzFeed Newsが確認したこうしたやりとりは、Twitter上で行われる暴力的言動や荒らし行為を必死で抑えようとするTwitterの長年の取り組みが垣間見れる、めったにない機会となっている。これらのメッセージが明らかにするのは、Twitterのルール（その多くは2017年に変更されてきた）は非常に不透明で漠然としており、同社の首脳陣ですら、その解釈と実行に四苦八苦していたという事実だ。

実際、BuzzFeed Newsがチェックしたこれらのメッセージからは、Twitter社内には、認証バッジが意味するものについての明確なコンセンサスはなかったことがうかがい知れる。この青いチェックマークが初めて導入されたのは2009年のことで、その目的は「なりすまし」を防止することだった。ところがこれらのメールによると、Twitterの内部では、認証を、Twitterからの支持および正当性の象徴と見る向きもあったようだ。とくにジャーナリストやセレブのあいだでは。また別のメールでは、認証はTwitterコミュニティー内でユーザーに特権やステータスを与えていたことも示されている。さらに広い意味では、認証はTwitterが言っていたようなものではまるでなく、公に認めるずっと前から、それが「暗黙の支持」として機能していることに同社は気づいていたという事実を、これらのメールは示している。

シャープは2016年1月、法務部や広報部の幹部、ドーシーらが参加していたスレッドのなかで、「ひとつの課題は、どのようにして認証が、善意のアイデンティティー・チェックをはるかに超えるものへとかたちを変えてしまったのかということです」と述べた。「認証は、文化的なステータス・シンボルになってしまいました。認証は検索ランキングに影響を及します。ユーザーをスパムフィルターから除外します。優先的なサポート処理を与えます」

しかし、社内で叫ばれていたこうした懸念も、認証に関してTwitterみずからが発する公的なメッセージとは食い違っているようだ。ヤノプルス論争から約2年後、Twitterは、バージニア州シャーロッツビルで開かれた極右集会の主催者で、白人至上主義者のジェイソン・ケスラーを認証した。その後、同社のサポートアカウントには、「認証はもともと、アイデンティティーとその発言が本物であると証明することを目的としていました。しかしいま、それは支持や重要さの指標と受け取られてしまっています」というツイートが投稿された。

あるスタッフは、Twitterの社内メトリクスは、この青いチェックマークに対して別の意味を示唆しているという意見を述べた。シャープは幹部仲間にあてたメールのなかで、「認証によってアカウントは、メディアOKR（Objectives and Key Results＝目標と主要な結果）を測定されます。また認証は、株主に報告するVIT（Very Important Tweeter＝非常に重要なTwitter）のカウントにも貢献しています」と述べ、認証を受けたユーザーはTwitterにとって価値ある存在であることを示唆した。消息筋によれば、Twitterの収益報告書には、同プラットフォームを利用するセレブとVIPユーザーの数についての言及も含まれているという。つまり、認証がこれらの数字を押し上げると見込まれていたのだ。

シャープはこのように続けている。「現在のシステムでは、悪いユーザー（コンテンツのコメントではなく、規約違反に関して「悪い」ユーザー）に認証を与え続けることで、彼らとその暴力的なコンテンツに並外れた特権と注目を与えることになってしまっています。Twitterがプラットフォーム・クオリティーを測定する方法にも不均衡な影響を及しています」

BuzzFeed Newsがコメントを求めたところ、Twitterからは、2017年に発表された公式声明を確認してほしいと言われた。この公式声明は、同社ルールの実施や解釈について（とくに認証とアカウントの凍結に関しての）透明性を高めるという誓約の一環として出されたものだ。また同社は、ほかにも、認証をめぐる混乱を謝罪する声明を、同社幹部が出している点も指摘した。Twitterはここのところ、迷惑な口説きや、合意を得ていないヌード、ヘイトシンボル、暴力的集団、暴力を賛美するツイートなどについての新ルール導入のタイムラインを公開している。

今回明らかになった社内メールは、Twitter内部にある根本的な葛藤も強調している。つまり、厄介者をプラットフォームから排除したいという願望と、たびたび公言されてきた、「言論の自由」を過激主義的に解釈することへのコミットメントのあいだで生じる緊張だ。ヤノプルスの認証を剥奪するという決定は、2016年1月8日に行われたメールのやりとりなかで下されたようだ。そのやりとりのなかでスタッフたちは、ルール違反を前にして何もしないTwitterにフラストレーションを爆発させていた。

Twitterのシニア・ポリシー・マネージャーは、「パートナー・オペレーション部門と先日交わした会話にもとづくと、理論的に言えばヤノプルス氏はジャーナリストとしての認証基準を満たしているようです（ポリシーに関しては立証できないのですが）」と書いている。「とはいえ、彼が悪名高きトロールである点で、我々の意見は一致しています。彼がふたたび一線を越えたなら、バッジを剥奪すること（少なくとも警告を発すること）にやぶさかでない点でも」。彼らは続けて、ヤノプルスが犯した最新の違反も列挙している。

念のために申し上げておくと、この2週間だけでも彼は、プロフィールのなかで自身の身分を「Buzzfeed編集者」と偽っています（この件はメディアチームの上層部へ緊急に回されました）。

・@KanyeWestの妻の裸の写真をツイート。彼女は娼婦だとほのめかす。

・いつものヒットピース（※注：客観性を装う偏った情報を流して、世論に影響を及ぼすことを目的とする投稿）の執筆を継続（事実が正確かは不明……これらは「Encyclopedia Dramatica」や「NCN」などのサイトの過去のコンテンツにリンクされている）。

・彼の投稿のターゲットに直接ツイートして、そのことで対象を愚弄（対象は通常、すでに彼をブロック）。目立たないように集団的嫌がらせを煽動。

・彼をブロックしているユーザーのスクリーンショットを投稿。その人物をあざけり、タグづけして、目立たないように集団的嫌がらせを煽動（以下の最新例を参照のこと）

・この「https://twitter.com/Nero/status/685148564742389760」（現在も稼働中）をツイート。女性や保護されているグループを脅し、黙らせようとしているとも解釈できる……など、ほかにもたくさんの例がある。

このポリシー・マネージャーは、「彼の認証ステータスを正当・合理化することは“きわめて”困難です（彼がいまもTwitterを利用しているという事実を世間に納得してもらうのは難しいことです）」と書いている。「このままではいけません」

一部のメッセージは、認証に関するルールの解釈と、その一貫した実施に幹部陣が頭を悩ませていたことを示唆している。その一方で、「アカウントの凍結」と「認証の取り消し」は、時として個人の判断にゆだねられるものであったことを示すメールもある。ユーザーサービス部門VPのバートナガーは1月16日づけのメールで、ドーシー以下の幹部に対して、2015年に右派トロールのチャック・ジョンソンのアカウントを凍結した件は、ヤノプルスのアカウント凍結の先例になりうると述べている。

「Twitterの新たな執行ポリシーに従えば、ヤノプルス氏は絶えず違反行為を犯していますが、（我々が永久凍結の対象とする）直接的暴力は一度もふるっていません。認証取り消しのスタンスがとれるのであれば、永久凍結のスタンスをなぜとれないのでしょう？」とバートナガーは書いている。「直接的暴力の脅威ではなかったにもかかわらず、我々はチャック・ジョンソン氏のアカウントを永久凍結しました。それは、ポリシーチームが下した判断でした。同氏はポリシーの抜け穴を見つけています。その行為は、あからさまな違反よりも悪質と言えるでしょう」

それに続くメールのなかで、最高顧問弁護士のガッドも、2015年5月25日に当時のディック・コストロCEOからオペレーションチームに送られたメールを引き合いに出している。そのメールでは、ジョンソンのアカウントを永久凍結にするという決断はコストロの判断によるものであることが示されている。「チャック・ジョンソン氏に関しては、ディックがその決断を下しました」とガッドは述べ、コストロのメールの本文もコピペしている。

「はっきり申し上げておきますが、このジャック・ジョンソンなるトロールの利用停止処分が解除される日が来ることを私は望んでいません」とコストロは書いている。「同氏のアカウントは永久凍結されました。いかなる理由があろうと、再開させることのないように。以上です。メディアはこの件を一時凍結と報じています。一時凍結ではありません。永久凍結なのです。なぜ一時凍結と誤報されているのかはわかりませんが、そうではありません……誰にもこの処分を解除させないように」

この件についてのコメントをコストロに求めたが、回答はなかった。

認証と凍結についての方針に対するTwitterのルールをめぐって、議論は続けられた。しかし、その実施となると、同社の幹部は混乱し、時に無力感にもさいなまれていたようだ。Twitterがヤノプルスの認証を剥奪する決定を下したあとでさえ、ドーシーは、Twitterのポリシーに対する自社の解釈に不満を抱いていたようだ。ほかの幹部にあてたメールのなかで、彼はこう述べている。「行う価値のある議論とは、嫌がらせに関するポリシーに従って、アカウントの凍結と認証の取り消しを比較することだと思います。この件について我々は、懸念事項を少しごちゃ混ぜにしてしまったような気がします」

ヤノプルスの悪行とルール違反は続いていたものの、Twitterが最終的に彼のアカウントを凍結するまでには、さらに7カ月かかることとなった。とどめの一撃となったのは、女優のレスリー・ジョーンズに対して彼が仕掛けた嫌がらせのターゲットキャンペーンだった。ヤノプルスの利用停止が決定してからまもなく、ドーシーはTwitterのスタッフに一通のメールを送り、安全性を「同社の最優先事項」にすることを約束した。そのメッセージの結びでドーシーは、スタッフを元気づけようとし、ポジティブな姿勢を失わないようにしようと呼びかけた。

「このようなときには、ついネガティブなことに目を向けてしまいがちです。私は今朝、あるポッドキャストを聞きながら歩いて出社しましたが、そのなかでガンジーのこんな言葉が紹介されていました」

「『人間を信じる心を失ってはならない。人間とは海のようなものだ。その数滴が汚れようと、海が汚れることはない』という言葉です

「この言葉をしっかりと胸に刻み込もうではありませんか」

この記事は英語から翻訳されました。翻訳：阪本博希／ガリレオ、編集：BuzzFeed Japan