10億円を投じた児童虐待判定AI、導入見送りへ

こども家庭庁は、児童虐待の早期発見を目的としたAI判定システムの導入を見送ると発表した。このAIは、虐待の可能性を数値化することで、児童相談所（児相）の判断を補助することを目的に開発された。しかし、試験運用の結果、判定ミスが約6割に達し、実用化は困難と結論づけられた。

開発には約10億円の費用が投じられたが、AIが適切に虐待を判定できないという重大な問題が浮き彫りになった。AI技術の活用が進む中、今回の結果は、行政のデジタル化における課題を示唆している。

児童虐待判定AIとは？ 開発の目的と期待

児童虐待の深刻な実態

厚生労働省によると、2022年度の児童虐待相談対応件数は過去最多の21万4843件に達した。
これに伴い、児童相談所の業務負担が増大し、人手不足が深刻化している。

AI導入の狙い

こども家庭庁は、児相の業務負担を軽減し、虐待の見落としを防ぐためにAI技術の活用を検討。2021年度から開発が進められ、過去の虐待データ約5000件を学習させた。

システムの仕組みは、91の項目（傷の有無、保護者の態度など）を入力すると、虐待の可能性を0〜100点でスコア化するというものだった。しかし、実際の運用テストでは、AIの判定精度に大きな問題があった。

なぜ導入見送りに？ 精度不足が致命的な課題に

読売新聞の報道によると、2023年度、10の自治体で100件の過去事例をAIに判定させたところ、62件の検出に留まり、「著しく低い精度」と評価された。また誤判定の例では、「母に半殺しにされた」と証言した子どもがいたが、AIの判定スコアは2〜3点と低評価になったという。

この結果、こども家庭庁は「児相に提供するのは時期尚早」と判断し、導入を見送る決定を下した。

こども家庭庁の今後の児童虐待対策と予算

こども家庭庁は2025年度、総額7.3兆円の予算を計上。うち、児童虐待防止や社会的養護に4033億円を充てるという。
具体的な施策は以下が挙げられる。

・児童相談所の職員増：相談対応能力の向上を図り、2026年度までに910人の児童福祉司を増員
・心理職の配置強化：心理的ケアを必要とする子どもへの支援を拡充
・デジタル技術活用：虐待リスクの早期発見のため、データ分析を活用
・里親・養育家庭支援の拡充：里親制度の認知向上と支援体制の強化
・児童養護施設の環境改善：人員配置の見直しと施設整備
・地域支援団体やNPOとの連携：地域での見守り体制を強化し、虐待リスクのある家庭を支援
・学校・医療機関との連携：教育・医療の現場から虐待リスクの早期発見を推進

まとめ： AIに児童虐待判定を任せられるのか？

こども家庭庁が期待した虐待判定AIは、判定精度の低さから導入が見送られた。
10億円の投資が結果的に無駄になったのか、それとも今後の改善に活かされるのか。

いずれにせよ、児童虐待対策には、AIだけでなく、人的リソースの確保と、現場の専門家による判断が不可欠だ。技術の発展と現場の経験を組み合わせることで、より効果的な虐待防止策が求められる。

今後、こども家庭庁がどのような方針を打ち出すのか、引き続き注視していく必要がある。