GOTCHA!

英語、仕事、勉強。いろんな「わかった!」をお届け。

AI(人工知能)による顔認証システム、公立学校が導入へ【英語多読ニュース】

AI(人工知能)による顔認証システム、公立学校が導入へ【英語多読ニュース】

「英語多読ニュース」(6月5日号)。今回は、AIによる顔認証システムをニューヨークの公立学校が導入するという話題を取り上げます。

SFの世界が現実のものとなりつつある、顔認証システム。Google や Amazon といったテック系大企業は、漏れなくAIによる顔認証システムを開発しています。

また、中国では警察がシステムを導入、1年前には顔認証アプリを搭載したサングラスを着用した警官が、6万人の大観衆から犯罪者を見つけて御用!という出来事が話題になりました。

www.bbc.com

この新しい技術が素晴らしいものであることは間違いありません。筆者が使っているスマートフォンにも顔認証が搭載されていますが、登録されている顔でなければロックが解除されないなど、以前よりもセキュリティーの面で安心感があります。

これを監視カメラと組み合わせれば、防犯対策にも大いに役立つはず・・・ですが、問題点も多く聞こえてきます。

例えば、精度の問題がその一つです。マイノリティーや女性の顔を判定する精度が、白人男性の場合より低い、という指摘もありました。

www.nytimes.com

悪用されるのを防ぐため、Google は開発した顔認証システムを外部には売らないという決断をしたり・・・。

techcrunch.com

Amazon は、Google とは逆に「顔認証システムを政府関連組織に売らない」という株主の要求を株主総会で否決したり・・・。

一つ確かなのは、IT技術の進化がめざましすぎて、現状では一般の理解や法整備が全く追いついていないということです。

さて、つい先日、そんな顔認証システムを公立学校が導入しようとしているというニュースが話題になりました。場所はアメリカ・ニューヨークです。

The Lockport City School District in New York will start testing a facial and object recognition system called “Aegis” on June 3rd. According to BuzzFeed News, that will make it the first in the US to pilot a facial recognition surveillance system on its students and faculty.
ニューヨークのロックポート・シティー学区は6月3日、顔・物体認証システム「イージス」のテストを開始する。バズフィード・ニュースによると、これは学生・教職員を対象とする顔認証監視システムがアメリカで運用される、初の事例になるとのことだ。

www.engadget.com

The system, created by Canadian company SN Technologies, can apparently keep track of certain individuals in school grounds. They include level 2 or 3 sex offenders, anyone prohibited from entering the schools and anybody believed to pose a threat based on credible information.
カナダの企業SNテクノロジーズが生み出したこのシステムは、学校の敷地内にいる特定の人物を追跡できるという。特定の人物とは、レベル2、3の性犯罪者や、学校に立ち入ることを禁止されている者、信頼できる情報に基づき脅威があると考えられる者である。

このシステムは、謹慎中の学生・職員も認識するほか、10種類の銃器も識別できるそうです。また、リストにない人を追跡することはなく、記録された内容も60日で削除されるなど、プライバシーにも配慮しているようです。

でも、本当に安全な仕組みなのでしょうか・・・と思ったのは役所も同じようで、この発表の後すぐ、学区のさらに上の機関であるニューヨーク教育部が、この運用に待ったをかけたそうです。 下の記事に、その「待った!」の内容が追記されています。

www.buzzfeednews.com

The Department has not come to the conclusion that the District has demonstrated the necessary framework is in place to protect the privacy of data subjects and properly secure the data. As such, it is the Department’s continued recommendation that the District delay its use of facial recognition technology.
教育部はまだ、データ主体(監視対象者)のプライバシー保護、およびデータの安全性確保に必要な枠組みを、学区が実証したとは考えていません。従って、学区にこの顔認証テクノロジーの利用を延期するように、教育部は継続して勧告しています。

個人情報の流出などが大企業でも日々、大きな問題になっている今日ですから、このニューヨーク教育部の懸念はまっとうに思えます。さまざまな懸念を解消し、市民の不安を解消してから運用するのが妥当でしょう。今後の進展に注目したいと思います。

Takahiro Yamamoto/山本高裕

文:山本高裕(GOTCHA! 編集部)

高校の英語教師を経て、今は編集者として、ときに写真家として活動中。Facebook にアップされた私の写真が、いつも別人に判定されることをずっと不満に感じています。