ユーザー投稿型ポイ活クイズアプリ QAQA（カカ） を運営する BLOCKSMITH&Co. は6月16日、生成AIを利用したモデレーション機能を正式リリースしたと発表しました。
本機能により、投稿されたクイズの内容を AI がリアルタイムで審査し、ガイドラインに抵触する問題を公開前に遮断できるようになります。
AIモデレーション機能の概要
QAQAでは、ユーザーが自由にクイズ問題文や解説、画像などを投稿し、全世界に公開することが可能です。こうしたユーザー生成コンテンツ（UGC）の健全性を保つため、今回のAIモデレーション機能が開発されました。
プレスリリースによると、AI は投稿文・画像を解析し、次の7カテゴリに該当する不適切表現を検知します。
引用：プレスリリース
問題が検出された場合、当該クイズは自動的にブロックされ、投稿者には修正を促すメッセージが表示されます。
AI と運営の二重体制で判定を行うことで、コミュニティの安全性と投稿のしやすさを両立させる設計です。
導入の目的と今後
BLOCKSMITH&Co. は「UGC プラットフォームとして、ユーザーが安心してクイズを楽しめる環境を整えることが最優先」とコメント。
今後は検知精度を継続的にチューニングし、適切なルール運用とユーザー体験の向上を図るとしています。
