生成AI活用のスパム自動検出でZennの安心を実現

生成AI導入でスパム投稿を大幅に削減

クラスメソッド株式会社が運営する情報共有プラットフォーム「Zenn」では、生成AIを活用したスパム自動検出機能が実装され、ユーザーの安心な体験を守るための施策が進められています。この取り組みにより、スパム投稿は前月比で約90%も減少しました。

背景

「Zenn」は、エンジニアや技術者向けに設計されたブログプラットフォームで、12万人以上の会員が参加しており、毎月1,300万回以上のページビューを記録しています。しかし、2024年6月からスパム投稿が急増したため、運営チームは対策を検討することとなりました。

スパムの内容は無意味な文字列や、技術とは全く関係ない誘導リンクなど多岐にわたり、1日あたりで約111万文字の投稿がなされる中で、それら全てを人力でチェックすることは現実的ではありません。新たな課題に対して、コンテンツチェックを自動化する必要性が高まっていました。

生成AIを使った成果

クラスメソッドでは、生成AIを用いたスパム自動検出システムを開発しました。このシステムは、Zennに投稿された各コンテンツを分析し、スパムと疑わしいものを自動で検出して管理者に通知します。運用を開始したのは2024年7月頭で、翌月には約1,500件のスパムを自動で検出しました。

スパム判定には、最新の大規模言語モデル（LLM）が利用され、短期間での精度向上が実現。最終的な判定は人間が行い、見つかったスパムは非公開処理やアカウントの凍結などの措置を講じています。また、実施した対策の効果は明確で、2024年9月にはスパムと疑わしい投稿が前月比で約90%減少しました。

Zennの特長

Zennは技術者コミュニティを育成することを目的としており、会員が記事を書くことはもちろん、知識を結集して一冊の本を出版することも可能です。さらに、執筆者は読者からの支援を受けることができるため、より良いコンテンツ制作につながります。

「Publication」機能を使えば、企業や団体の名のもとに複数人で記事を投稿することができ、自由な発言を促す環境が整っています。このようにクリエイティブな発信が行えるユニークな仕組みが、多くの支持を集めています。