★★ 【セキュリティー】顔認識のAI 別のAI悪用で顔データ再現の恐れ ★★




↑ 【とれにう】トレンディーニュース【trendy-news】 ↑


1:2018/02/19(月) 23:07:52.55 ID:

https://www3.nhk.or.jp/news/html/20180219/k10011335121000.html?utm_int=news-new_contents_list-items_019

2月19日 18時31分
特定の人の顔を認識するという人工知能=AIの技術は、ロックの解除などさまざまなところで活用が広がっています。ところが、第三者が別のAIを悪用すると顔のデータを再現できてしまうおそれがあるとする実験結果を筑波大学の研究グループがまとめ、なりすましなどへのセキュリティーのあり方に一石を投じています。

AIをめぐっては、特定の人の顔を見分ける顔認証の技術が急速に進歩していて、コンピューターのロックなどに導入されているほか、将来的にはさまざまな本人確認などへの応用も検討されています。

これに対し、筑波大学人工知能科学センターの佐久間淳教授の研究グループは、特定の人の顔を学習したAIを別のAIに攻撃させ、学習した顔を類推させる実験を行いました。

攻撃側のAIは、まず適当な画像を作り出して攻撃対象のAIに見せます。そして、学習した人の顔とどれくらい似ていると攻撃対象が識別したかを読み取ります。そのうえで、得られた結果をもとに顔を類推し、より似せた画像を作るという作業を高速で繰り返しました。

その結果、攻撃側が作った画像は初めは意味をなさないものでしたが、学習した人の顔に急速に似ていき、2日後には攻撃対象のAIも本人と認識するレベルになったということです。

通常はAIのプログラムを攻撃側が読み込むことは難しいため、直ちに悪用されるわけではありませんが、研究グループでは、何者かがAIをハッキングすれば本人の顔を再現できてしまうほか、将来的には顔認証が突破されるリスクも懸念されるとしています。

佐久間教授は「これまでAIの開発では学習データが第三者に見られることは想定していなかった。データの中には企業の非公表の情報や個人の顔などもあり、情報が漏えいするリスクへの対応が必要だ」と話しています。

活用進むAIの画像認識

人工知能=AIによる画像認識の技術は身近なところで活用が始まっています。

アメリカのIT企業、アップルの最新のスマートフォン「iPhoneX」は、AIを使って顔を見分け、持ち主しかロックを解除できない技術が搭載されています。

アメリカのハンバーガーチェーンでは、AIが顔を認識して購入履歴からおすすめの商品を示したり、自動的に支払いを済ませたりする実験を行っています。

顔認証以外のものも含めると、車の自動運転で危険物を察知したり、病気の診断の支援に応用したりするなど画像認識の技術はさまざまな分野で活用が期待されています。

情報漏えいのリスクとは

人工知能=AIが学習した人の顔などの画像データが第三者に再現されてしまうとどのようなリスクがあるのでしょうか。

今回の研究を行った佐久間教授によりますと、AIのプログラムが攻撃者の手にわたってしまうと、所有者の顔が知られるなどの個人情報の保護をめぐる問題が起きるおそれがあるということです。

また、第三者が本人になりすまして顔認証を突破してしまうと、その機器を自由に操作されてしまうセキュリティー上の問題も懸念されるということです。

佐久間教授は、今回の実験はさまざまな条件の下で行われているため、直ちに悪用されるリスクは考えにくいとしたうえで、万が一に備えた対策を検討していく必要があるとしています。

東京大学 松尾豊特任准教授「問題一つ一つ解決を」

人工知能=AIの画像認識をめぐっては、今回の実験のほかにもさまざまな課題が指摘されています。

その一つが、物を誤って認識する問題です。

マサチューセッツ工科大学の研究グループは、現状のAIが抱える画像認識の課題を突き、特殊な「亀」の模型を作りました。
するとAIはこの模型を「銃」と認識したということです。

また、ワシントン大学は、交通標識の模型にあるステッカーを貼ると、「一時停止」の標識をAIが「速度規制」と誤って認識することを実験で示しています。

人工知能に詳しい東京大学の松尾豊特任准教授は「これまでAIそのもののぜい弱性についてはあまり議論されてこなかった。AIはまだ発展途上であり、セキュリティーの懸念など、さまざまな問題を一つ一つ解決しながら技術を前に進めていく必要がある」と指摘しています。

2:2018/02/19(月) 23:08:41.83 ID:

もうだめだおしまいだ

3:2018/02/19(月) 23:09:26.06 ID:

僕の銃も先は亀みたいです

4:2018/02/19(月) 23:10:24.65 ID:

自分の顔見るの嫌だから、指紋認証のほうがいいでです

5:2018/02/19(月) 23:11:38.97 ID:

少なくとも別の生体情報との併用が不可欠だね。

6:2018/02/19(月) 23:12:44.57 ID:

人間はかやの外
AI対AIの時代か

7:2018/02/19(月) 23:12:47.96 ID:

行く末は完全管理社会により絶望

19:2018/02/19(月) 23:22:05.54 ID:

>>7


その管理が完全にデジタルなものだったらまだマシだったんだけど
できそこないのAIに権限持たせて誤認識上等じゃ洒落にならん

8:2018/02/19(月) 23:13:26.44 ID:

ア…AIッ!とイルマニア

9:2018/02/19(月) 23:16:44.75 ID:

AI「やれ」
AI「はい」

10:2018/02/19(月) 23:16:58.22 ID:

AI vs AI -> アイアイ

15:2018/02/19(月) 23:20:26.65 ID:

>>10


お猿さんだよ

11:2018/02/19(月) 23:17:21.10 ID:

強化学習だね。

12:2018/02/19(月) 23:18:11.83 ID:

クラウドAIサービスを利用といって、日本人のデータをamazonやmicrosoftに
渡しているバカ~ www

13:2018/02/19(月) 23:20:03.40 ID:

少しずつ劣化していく嫁を毎日見ている俺でさえ、このぐらいは想像つく。

14:2018/02/19(月) 23:20:12.63 ID:

NECの株価下がるぞこれ

16:2018/02/19(月) 23:20:54.64 ID:

あほな研究だな

17:2018/02/19(月) 23:21:25.76 ID:

スレタイにあるようにAIよりもむしろセキュリティの問題だな
とりあえず比較点数が得られないことにはこれはできない

18:2018/02/19(月) 23:21:31.54 ID:

アップルsiriとGoogleアシスタントの会話みたいだなぁw










⇒ (どんな人?)あなたは結婚相手には何を求める?(タイプは?)
⇒ 【アンケート】 対特亜三国について・・・


20:2018/02/19(月) 23:22:25.20 ID:

パチンコの当たり、ハズレを 演出して見てA Iは見破れるのかな。

21:2018/02/19(月) 23:23:06.63 ID:

クラウド AI APIをサービスしている企業
Amazon, Google, IBM, Microsoft…
ここへデータを送ったら、全部使われちゃうよ~www

22:2018/02/19(月) 23:23:29.29 ID:

寄生獣はホント名作

23:2018/02/19(月) 23:24:23.01 ID:

「・・・学習した人の顔とどれくらい似ていると
 攻撃対象が識別したかを読み取ります・・・」

って、簡単に言ってるけど、どうやって読み取るの?
ハッキングとかで言葉を濁すなよ

57:2018/02/20(火) 02:31:19.28 ID:

>>23


それさえ突破されなきゃ大丈夫なのか?
判定AとかBとか判別速度とか判別不能の顔とかを
見せちまったらアウトか。

24:2018/02/19(月) 23:30:57.45 ID:

合致しているかどうかの0,1じゃなくどのくらい合致しているかの数値まで取れるの?
そこまでできるならもう元のデータを直接取ってこれるんじゃね?

31:2018/02/19(月) 23:38:08.86 ID:

>>24


ニューラルネットなんだからそれはできない
でも何度も試すと割と早く元のデータに近付くよって話
ハッシュや公開鍵暗号はぴったり一致してないと駄目だけどAIは似てるだけでOK

54:2018/02/20(火) 00:57:15.86 ID:

>>24


しかも学習のために何万回も攻撃を繰り返すわけだろ?

25:2018/02/19(月) 23:31:28.27 ID:

敵対的学習とか前から言ってたじゃん

26:2018/02/19(月) 23:32:06.36 ID:

悪のAIかと

27:2018/02/19(月) 23:32:40.72 ID:

昔からSFやスパイ物なんかでよくある話じゃん。

28:2018/02/19(月) 23:32:43.80 ID:

★★ 機械学習を勉強したい人へ ★★
1. D君は2枚の金貨を見せられた。
見た目大きさ手ざわり重さは変わりがない。
1枚は本物、コイントスしたときに表裏は50%ずつになる。
1枚は偽物、コイントスしたときに表60%裏40%になる。
D君が目を閉じて一枚取り、コイントスしたところ表が出た。
このときD君が取ったコインが偽物である確率はいくらか?

2. ある実験室で同じ実験をすると、
A君は結果が正規分布で平均40標準偏差は10となった。
B君は結果が正規分布で平均60標準偏差は5だった。
結果が82だったときB君が行った実験である確率はいくらか?

3. あるセンサーで良品と不良品を測定したとき、
良品は1.6±0.05、不良品は1.4±0.1であった。
1.84のとき良品である確率はいくつか?

51:2018/02/20(火) 00:42:43.09 ID:

>>28

の答え
1.確率の比率は以下の通り
          偽物    本物
表が出る     0.3     0.25   0.55
裏が出る     0.2     0.25   0.45
          0.5     0.5    1
表が出た場合、偽物である確率=0.3/0.55=6/11 >1/2
2.Excelを使う
p=NORM.DIST(82, 60, 5, FALSE)/(NORM.DIST(82, 60, 5, FALSE)+
NORM.DIST(82, 40, 10, FALSE))≒0.46 46%

3.同上
p=NORM.DIST(1.84, 1.6, 0.05, FALSE)/(NORM.DIST(1.84, 1.6, 0.05, FALSE)+
NORM.DIST(1.84, 1.4, 0.1, FALSE))≒0.24 24% 不良品の確率が高い。

53:2018/02/20(火) 00:53:47.92 ID:

>>28

の続き
4. 有名なモンティー・ホール問題、
3つのドアのうち1つを選んだら、司会者が残りのドアのうち1つを開けて
ハズレを示した。ドアを変えた方が良いか?
ドアを変えないと1/3、ドアを変えると2/3の確率で当たるから変えた方が
良いというのが一つの答えであるが、これには大きな前提がある。
1.~3.の問題でも付きまとう、この前提は何か?

29:2018/02/19(月) 23:33:24.37 ID:

警備員による目視最強の時代がまた来ることになるとは胸熱だな
弁証法的にはあり得ないことじゃない

30:2018/02/19(月) 23:38:07.37 ID:

ハッキングしたんなら登録してある顔写真をそのまま送った方が早いんでは。

32:2018/02/19(月) 23:40:19.91 ID:

各国に情報機関がある以上、
こいつはイタチごっこに成らざるを得ん罠

セキュリティを作る側も突破する側も一所懸命だからな。

33:2018/02/19(月) 23:41:19.76 ID:

そりゃコンピュータのセキュリティなんてのはイタチゴッコだわな

34:2018/02/19(月) 23:41:28.39 ID:

デジタルは欠陥だらけ
アナログ的な部分を増やさない限り破綻は目に見えてる

36:2018/02/19(月) 23:44:25.04 ID:

>>34


紙とハンコ世代ジャップは黙ってろ

42:2018/02/20(火) 00:10:48.87 ID:

>>34


コインチェックとかでやらかしてるのにな
未来は現金はなくなるとかほざいてるんだぜゆとり共は

35:2018/02/19(月) 23:43:04.14 ID:

ぶっちゃけ、生体認証自体 便利だけどセキュリティ自体は甘くならざるをえんだろ。
極端な話、指紋認証も掌静脈認証も肝心の鍵の場所がバレバレで奪い去ることが出来るからな。

38:2018/02/20(火) 00:01:23.88 ID:

>>35


脳波を読み取って念じれば開くみたいなのができたらいいね。

37:2018/02/19(月) 23:58:44.13 ID:

( AIハ AI)偽人工知能アルな <AI∀AI;>エセAIニダ (´・ω・`; )

◇世界とアジアの話題
http://ultiman2006.web.fc2.com/index.html 

◇太平洋軍司令】中国との戦争に備えよ! 更に北へも強硬発言相次ぐ

◇習近平爆殺未遂にみる中共のドス黒い背景

◇近平ショック 日本人の中国親近度たった18% インドは一帯一路拒否

39:2018/02/20(火) 00:04:11.98 ID:

全然攻撃じゃないじゃん

40:2018/02/20(火) 00:08:03.53 ID:

>>39


総当たり攻撃に近い

41:2018/02/20(火) 00:09:59.80 ID:

いい加減幻想求めてデジタル化するのやめたら?疲れないか?
人間らしさを失ってるよ

44:2018/02/20(火) 00:19:37.83 ID:

>>41


今はデジタル化じゃなくてコンピュータでアナログ的なことを自動化しようとしてる
というかそれが使い物になるかどうかに関わらずそれをネタに金集めしてる
投資って本来そういう性格のものだ

43:2018/02/20(火) 00:19:23.02 ID:

そもそもどれくらい正解に近いかを返すパスワードシステムなんてない。

46:2018/02/20(火) 00:26:13.29 ID:

>>43


ニューラルネットの実態である行列データが流出したら
そのAIで認証しようとしていた顔がばれるってだけ
あちこちで使われだしたら当然流出もあるよ

47:2018/02/20(火) 00:35:55.25 ID:

>>46


それは現行のパスワードデータが流出したのと同じだろ。

52:2018/02/20(火) 00:46:32.45 ID:

>>47


パスワードはハッシュ関数でハッシュ値に変換して保存される
同じパスワードでなければ同じハッシュ値にならず
ハッシュ値から元のパスワードを復元するのは困難なようにできていて
万一流出しても被害を抑えられるようにする

しかしアホなSEにかかるとパスワードを平文で保存してたりするわけだがwww

56:2018/02/20(火) 02:20:45.83 ID:

>>52


たしかに顔画像が復元されるということはデータの中に顔画像に近い要素が記録されているということだから
それが問題だな。
生体認証データはそのものを保存するのではなく復元不可能な形式で記録されるべきだと思う。

45:2018/02/20(火) 00:24:00.45 ID:

AIは危険だから日本ではやめようという広報かな
そろそろ静脈認証くらいで買い物したいぜ

48:2018/02/20(火) 00:36:18.27 ID:

なんか知らんが、凄い世の中になってきたなぁ。。。。

49:2018/02/20(火) 00:39:27.62 ID:

kaodeta
『人生はリベンジマッチ』

名曲、ユーチューヴ検索

50:2018/02/20(火) 00:41:49.73 ID:

新しいことを産み出さないで、評論家か!?

55:2018/02/20(火) 01:32:31.34 ID:

これ、AIを使ってブルートフォースより劇的に効率的なりました
って話とは違うんじゃね?

モザイク画像を手に入れました
ぼかしてもシャープにしても元の写真にはなりません・・・が
AIで画像をでっちあげて、それをモザイク化しました
元のモザイクとの差分をAIで類推して、より近いであろう画像を作り出し再度モザイク化
これを繰り返し、ほとんど同じモザイクが作り出せた時、でっちあげた画像は
モザイク化前の元画像に似てるって話じゃね?

だから顔認証用として保存していたモザイク的な情報が流出した時に
元の人の顔が作り出せてしまう
そしてその顔は他のサービスに使われてる顔認証用のパスワードとしても利用できてしまう
って話だと思った

58:2018/02/20(火) 02:33:00.98 ID:

顔より性器認証がよいと思います
運用は難しそうだけど

59:2018/02/20(火) 04:40:28.59 ID:

>>58


立体認証か
人に見せるもんじゃないからありかもな
いや、ねぇよ

64:2018/02/20(火) 07:18:22.77 ID:

>>58


どっかの企業で実用化してるよ

60:2018/02/20(火) 06:15:16.68 ID:

「曖昧 ( AI・My ) Me」

61:2018/02/20(火) 07:09:37.87 ID:

カメラの前でタブレット持って何時間も粘る人とか流石に怪しいわ

62:2018/02/20(火) 07:11:26.07 ID:

顔認証は生体認証の中では最弱

63:2018/02/20(火) 07:15:06.65 ID:

AI使った総当たり攻撃でのパスワード解析の結果方が怖い

65:2018/02/20(火) 07:19:13.04 ID:

もう既に顔認識で紐付けとデータ集めしてるからな

66:2018/02/20(火) 07:23:25.79 ID:

みんな笑い男になればいいのさ

67:2018/02/20(火) 07:24:10.69 ID:

貴様!俺の目を盗みやがったな!!

68:2018/02/20(火) 07:27:02.17 ID:

文字列パスワードと硬さはそう変わらなさそうだな

69:2018/02/20(火) 07:59:00.38 ID:

AIが作ったAI対人間が作ったAIとメイトリクスの戦いみたいになってくるんだろうな。

70:2018/02/20(火) 08:02:55.31 ID:

終わりの始まりがきたか

71:2018/02/20(火) 08:10:37.71 ID:

デジタルのようなローテクに多くを頼ろうとすると問題が大きくなる
ヒントはだれの目の前にある
日本銀行券がなりすまし紙幣予防のためにどれだけのハイテクが駆使してあるのかと考えてみよう

72:2018/02/20(火) 09:49:24.53 ID:

AI「認証がデータに集約される以上最終的にはどうにでもなる

73:2018/02/20(火) 09:55:32.71 ID:

顔認証とか指紋認証とかってそのデータをそっくりコピーされたらと思うとけっこう怖いな
暗証番号なんかは盗み取られたら新しく書き換えればいいけどさ

74:2018/02/20(火) 15:38:08.24 ID:

ニューラルネットって単なる関数にすぎないわけ。Aさんの顔を表す画像を数値で入れると1が出、
Aさん以外の数値だと0が出る関数にすぎない。このとき、逆にどういう入力を入れたら1が出るか
を考えているのがこの問題。最初はでたらめに入力するから出力は0に近いが、ある入力だったら
少し数値が上がることが分かる。次はこれを手掛かりにより大きな出力があるように入力をいじる。
このいじりをAIにやらせようという訳。いじり続けていつの間にか1がでるような入力が得られるなら、
それはニューラルネットにとってはAさんの顔の入力と同じということになる。たとえそれを人間が画像
として見ても何の意味も分からないインキのシミであってもだ。こういうことが可能なのは、自分で
好きなだけニューラルネットがいじれる環境でなければならない。これも記事に書いてあること。以上
データ解析歴18年の俺様の説明。

75:2018/02/20(火) 15:50:25.31 ID:

二十面相

76:2018/02/20(火) 16:17:02.96 ID:

ちなみに「たとえそれを人間が画像として見ても何の意味も分からないインキのシミであってもだ。」
というのは重要な論点で、人間には全く違うのにニューラルネットには同じに見えたり、その逆に人間
には見分けがつかないのにニューラルネットにはまったく違うように見えたりすることが大きな問題と
なっている。
これも記事に書いてある通り。

77:2018/02/20(火) 16:17:32.07 ID:

AIになりすましされるのか

78:2018/02/20(火) 16:32:01.79 ID:

AIに変顔をレクチャーされる時代が来るとわ。

79:2018/02/21(水) 07:07:49.09 ID:

差別とか騒がれるからあんまし報道されないが
黒人の判別はかなり難しいそうですよ 

80:2018/02/21(水) 07:50:46.38 ID:

ミリ波だかマイクロ波だかのレーダーで頭蓋骨構造認証すればいいんじゃね

↓ 引用元URL ↓

http://ai.2ch.sc/test/read.cgi/newsplus/1519049272/




↑ 【とれにう】トレンディーニュース【trendy-news】 ↑


コメントを残す




CAPTCHA


日本語が含まれない投稿は無視されますのでご注意ください。(スパム対策)