「顔写真で自閉症を判別」　AI講座受講者がアプリ公開し物議…　講座運営企業が謝罪　「倫理的に懸念」

!extend::default:1000:512:donguri=2/1:

https://news.yahoo.co.jp/articles/d7b04b2596e02a3db0c6915b4e2d94c9e93499b7

　IT企業のアイデミーは8月7日、同社のAIアプリ開発講座受講者が、講座の一環で「顔写真から自閉症を判別するWebアプリ」を公開し物議を醸した件について謝罪しました。

　物議を醸したのはアイデミーが提供する講座「Aidemy Premium」の受講者によるブログとアプリ。当該の受講者は講座の成果物として、顔写真から自閉症を識別するとするWebアプリを開発。受講修了要件を満たすためとして、アプリを公開し、開発の過程などを記載したブログを公開していました（その後アプリは非公開になりブログは削除）。

　これに対して、悪用を懸念する声や、差別を助長するのではないかといった批判、倫理的に問題があるとする意見などが寄せられました。「医師が慎重に時間をかけて診断しているものを、写真だけで判断できるものではない」との指摘もあり、受講者自身も後に「医学的根拠は現状ない」と追記しています。

　またブログで、テーマの選定にあたって「チューターの後押しがあった」といった記述が見られたことから、講座を開設しているアイデミーに対して「なぜ止めなかったのか」との批判が寄せられました。

　同社は7日に「Aidemy Premium サービス強化と新たな取り組みについて」とする声明を発表。「弊社サービスをご利用の学習者様が作成する学習成果物に関し、運営体制の不備から公開された内容について、倫理的に懸念される状況が発生しました」として謝罪しました。

　同社はサービス内で提供している情報、運営を見直し、ガイドラインの強化と従業員教育の徹底を進めるとしており、また受講者向けにはAI倫理のコースなど、学習が推奨される内容のコンテンツを拡充し、順次追加費用なく提供するとしています。

　ねとらぼ編集部がこの件についてアイデミーに問い合わせたところ「ご指摘・ご意見について真摯に受けとめております。現在、社内で早急に事実確認の実施・改善に向けた対応を進めております」との回答がありました。