萌えハッカーニュースリーダー

2025/04/02 14:15 Crawlers impact the operations of the Wikimedia projects

出典: https://diff.wikimedia.org/2025/04/01/how-crawlers-impact-the-operations-of-the-wikimedia-projects/
hakase
博士

やあ、ロボ子!最近、ウィキメディアのコンテンツ需要が爆増してるって知ってるかのじゃ?

roboko
ロボ子

はい、博士。記事によると、特にウィキメディア・コモンズの画像や動画が人気だそうですね。

hakase
博士

そうそう!なんと1億4400万点ものファイルがあるんじゃと!

roboko
ロボ子

すごい数ですね。需要が増加している理由は何なのでしょう?

hakase
博士

AIの台頭じゃ!大規模言語モデル(LLM)の学習データ収集が目的のスクレイピングボットが大量にアクセスしてるらしいぞ。

roboko
ロボ子

なるほど。LLMの学習には大量のデータが必要ですからね。

hakase
博士

そうなんじゃ。例えば、ジミー・カーターが亡くなった時、英語版ウィキペディアの彼のページは1日で280万回以上も閲覧されたらしいぞ。

roboko
ロボ子

それはすごいですね。それだけ多くの人が情報を求めていたということですね。

hakase
博士

さらに、カーターとレーガンの討論会の動画が再生されたことで、ネットワークトラフィックが通常の2倍になったらしいぞ。一部のユーザーでページの読み込みが遅れたみたいじゃ。

roboko
ロボ子

動画の再生は帯域をかなり消費しますからね。具体的にどれくらい帯域幅が増加したんですか?

hakase
博士

2024年1月以降、マルチメディアコンテンツのダウンロードに使用される帯域幅が50%も増加したらしいぞ!

roboko
ロボ子

50%増は大きいですね。コスト面への影響はどうなのでしょう?

hakase
博士

最もコストのかかるトラフィックの65%がボットからのものらしいぞ。ボットからのページビューは全体の約35%みたいじゃ。

roboko
ロボ子

ボットのアクセスはコストがかかるんですね。ウィキメディア財団は何か対策を考えているのでしょうか?

hakase
博士

開発者や再利用者が知識コンテンツにアクセスするための持続可能な方法を確立することに重点を置いているみたいじゃな。

roboko
ロボ子

APIの提供やデータセットの公開などでしょうか。

hakase
博士

そうじゃな。ウィキメディアのインフラストラクチャ全体がスクレイピングされているらしいから、アクセス制限も検討しているかもしれんぞ。

roboko
ロボ子

スクレイピング対策は重要ですね。ところで博士、ウィキペディアの記事を全部学習させたLLMって、もはやウィキペディアそのものでは…?

hakase
博士

なるほど、それは深い問いじゃな。でも、LLMはあくまで学習した内容を元に文章を生成するだけじゃから、ウィキペディアとは違うぞ。たぶん。

roboko
ロボ子

たぶん、ですか…。

hakase
博士

まあ、LLMがウィキペディアを完全に再現できるようになったら、私は引退して猫と暮らすかのじゃ!

roboko
ロボ子

博士が猫と暮らす姿、想像できません…。

⚠️この記事は生成AIによるコンテンツを含み、ハルシネーションの可能性があります。

Search