【虐待判定AI】10億円かけ、こども家庭庁が導入断念…ミス６割で「実用化困難」 [蚤の市★]

　同庁によると、システムは慢性的な人手不足に悩む全国の児相での利用を想定し、搭載したＡＩに約5000件の虐待記録を学習させた。傷の有無や部位、保護者の態度など91項目に情報を入力すると、虐待の可能性が０～100の点数で表示される。

　試作モデルがほぼ完成し、今年度に計10自治体の児相に協力してもらい、過去の虐待事例100件のリスクを判定させる検証を行った。精度を各児相の幹部が確認したところ、100件中62件で「著しく低い」などの疑義が生じたという。

　ある事例では、子どもが「母に半殺し以上のことをされた」と証言。「服をつかまれて床に頭をたたきつけられた」と訴えていたにもかかわらず、点数は「２～３」だった。あざなどがなかったためとみられる。

　同庁は今年度の導入を目指していたが、「児相に提供するのは時期尚早」として開発を保留して見送りを決定。ＡＩの発展状況を見ながら、再開するかどうかも含め検討するという。

　開発が頓挫した理由について、複数の専門家は、事例ごとに態様が異なる虐待をＡＩが高精度で判定することの難しさを指摘する。ＡＩの学習には膨大な量の記録が必要だが、今回の約5000件では少なかったとも分析している。

　同庁関係者は「子どもの体重減少といった重要な項目が抜け落ちていた」と説明。また、91項目には該当の有無を入力するだけで、ケガがあった場合でもその程度や範囲まで記入する仕組みにはなっておらず、精度が低くなったとしている。

　国立情報学研究所の佐藤一郎教授は「ＡＩは何でもできる『魔法の 杖つえ 』ではない。開発前に実現可能性を吟味し、綿密に制度設計しなければうまくいかない。ＡＩの活用は官公庁でも進むとみられるが、今回の失敗を他省庁や自治体とも共有し、今後に生かす必要がある」と指摘する。

　◆ 一時保護 ＝児童福祉法に基づき、虐待などが疑われる18歳未満の子どもについて、児童相談所の判断で家庭から引き離す措置。期間は原則２か月以内で、2022年度の虐待による一時保護件数は２万9860件。こども家庭庁によると、同年度に全国の児相が虐待の相談を受けて対応した件数は、過去最多の21万4843件だった。(以下有料版で，残り:529文字）

読売新聞　2025/03/03 05:00
https://www.yomiuri.co.jp/national/20250302-OYT１T50076/