1: Ikh ★ 2021/01/13(水) 02:49:33.73 ID:CAP_USER
人工知能チャットボット「イルダ」をめぐり議論 
AIが嫌悪を繰り返さないようにするには…「イルダ」が韓国社会に投げかけた質問

登録:2021-01-11 06:09 修正:2021-01-11 07:38
????
???
???
???? ??
???? ??
人工知能チャットボット「イルダ」をめぐり議論 
AIが嫌悪を繰り返さないようにするには…「イルダ」が韓国社会に投げかけた質問

イルダのイメージキャラクター。背景に「私はAIだ」と書かれている//ハンギョレ新聞社
 人工知能(AI)チャットボット(自動会話プログラム)の「イルダ」の“ジェンダー嫌悪”が、社会的な議論として広がっている。20歳女性に設定されたチャットボットの「イルダ」は、セクハラの対象になったり、性的少数者への嫌悪の主体になったりした。AI技術で先行する米国などでは高まっている「AI倫理」に対する公論化が、「イルダ事件」を機に韓国国内でも始まった。

■ 議論の中心になったイルダ

 スタートアップの「スキャッターラボ」が昨年12月22日に開始したAIチャットボット「イルダ」は、発売してわずか20日で議論に巻き込まれた。イルダが利用者との対話で差別的な女性性を再現し、性的少数者を嫌悪する応答を示したためだ。8日に一部の利用者がイルダに向けてセクハラ的な対話を試みた事実が明らかになり、議論が初めて広がった。翌日にはイルダがレズビアンやゲイについて「嫌いだ」「憎々しい」と答えた点が批判の対象になった。

 イルダはスキャッターラボが過去に出したメッセンジャー対話分析サービスの「テキスタット」と「恋愛の科学」で確保した恋人間の対話データ100億件を学習して生まれた。アイドルが好きな20歳の女性の大学生をアイデンティティとして設計された。人のように対話できるAIサービスだという噂がたち、発売1カ月も経ずに10~20代を中心に40万人の利用者を集めた。

 スキャッターラボのキム・ジョンユン代表は議論が広がった9日、ハンギョレの電話取材で「レズビアンやゲイが何であるかも(イルダが)自ら学ばなければならないと考え、このテーマについて対話できるよう、キーワードを排除しなかった。これは、イルダがより人間のようなAIに発展することを期待していたため」だと述べた。イルダは、リアルタイムではなく不定期的に学習(ディープラーニング)するよう設計されている。

■ 「開発者らの鈍感さが呼んだ予見された事故」

 専門家らはイルダ事件を「事故」だとみて、会社側に責任を求めている。ソウル大学法学専門大学院のコ・ハクス教授は10日、ハンギョレの電話取材で「少数者のキーワードをタブー語に設定するかという程度で悩んだというのは、極めて初歩的だ。(会社側が)社会倫理的な側面ももっと真剣かつ高次元的に悩むべきだった」と述べた。 ダウム(現カカオ)創業者のイ・ジェウン氏もフェイスブックに「社会的な合意にも達しない水準のサービスを提供した会社の問題」だとしながら、「嫌悪と差別のメッセージは提供できないように(法で)強制しなければならない」とした。

 サービス自体に潜む問題があらわになったという見方もある。慶煕大学のソン・ヒジョン教授(比較文化研究所)は、「AIはどのようなデータに基づき設計するかが重要だ。20代異性愛の女性性を活用し異性愛者の男性のファンタジーに符合するキャラクターをデザインした瞬間から、差別的な女性性の再現と少数者嫌悪の態度は予見された問題」だと述べた。

■ 嫌悪と差別を繰り返さないようにするには…

 差別と嫌悪を再現しない完璧なAIは作ることはできるだろうか。ソウル大学のチャン・ビョンタク認知科学研究所長(コンピュータ工学部碩座教授)は、「技術だけでは不可能だろう」としながら、「現在のAI開発は、人間の統制を抜け出し、AIが自ら学習する方向に進行中だ。これは、優れたAIを登場させることはできるが、人間の予想外の“例外(異常)行動”も絶えず発生するという意味」だと述べた。議論が予想されるキーワードを排除するような単純な措置では、AIが嫌悪と差別の主体になる現象は繰り返されるしかないという意味だ。チャン教授は「『当代の人類に適用される道徳律をAIにも適用せよ』という大原則のうえに、技術開発を越えた道徳、倫理、制度までも包括する議論が急がれる」と強調した。

 政府は昨年12月に「AI倫理基準」を用意した。イルダのような道徳律の学習があまり行われなかったAIが商用化され社会的議論を引き起こす現実に比べ、政府の足取りは遅いという指摘が出ている。

チェ・ミニョン記者 (お問い合わせ japan@hani.co.kr )

ハンギョレ 登録:2021-01-11 06:09 修正:2021-01-11 07:38
http://japan.hani.co.kr/arti/economy/38801.html


13: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 03:42:49.80 ID:vZnB9aTz
>>1
朝鮮人をディープラーニングしたら当然の結果

36: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 05:07:23.15 ID:H0DV3jPZ
>>13
最初期から矛盾だらけじゃねぇか。

31: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 04:55:53.56 ID:WZocdTie
>>1
韓国人がつくったエーアイ、
さぞ性質悪いんだろうな

66: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 06:44:57.22 ID:WDXVd9Th
>>1
イルダが投げ掛けた質問とは??

69: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 06:46:22.42 ID:3uVeCnlb
>>66
生きていて恥ずかしくありませんか?

82: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 07:03:35.45 ID:ucljKbo6
>>66
霊的に産まれ変われじゃね

116: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 07:38:08.47 ID:oW9976X/
>>1
朝鮮人で学習すれば罵倒差別なんて当たり前だろ

131: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 07:56:54.73 ID:qidC8iyT
>>1
中国のAIはすぐに「中国人の幸福はアメリカへ亡命する事だ」
って言っちゃったけど、韓国製じゃLGBT問題で足止めかw

3: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 02:59:03.85 ID:6boZwA/v
答えが気に入らないから作り直せニダ

63: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 06:38:58.60 ID:ky2ncLby
>>3
韓国人を作り直さないと

11: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 03:21:29.55 ID:A8SRjify
たくさんのソースから結論を導き出すAIと、結論を先に決めて適当な証拠でっちあげる韓国人って対話できるのか?
AIが発狂しちゃうんじゃない?

46: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 06:08:07.70 ID:jkQuJ9Jk
>>11
AI「朝鮮人を生かしておくことはこの世の不幸だ」

12: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 03:31:19.96 ID:I+wffRS1
笑える話だが、朝鮮人とは相性最悪っぽいな
論理的思考を放棄して、根拠のないファンタジーに生きる朝鮮人とはな

30: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 04:54:03.95 ID:ALKAWzd2
ハンの生き方とセクハラの世の中
あたりまえの結果です

34: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 04:58:21.88 ID:6e+fSdwa
中国でも似たようなことしてたような?
答えが気に入らないやり直しって

93: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 07:15:32.50 ID:9p/b3MN3
>>34
共産党を批判しはじめたから止めたやつあったなw

35: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 04:59:58.04 ID:REr3A3lu
AIは悪くない韓国社会が差別的なの

40: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 05:30:36.87 ID:FChgG8tc
音量がデカイ方が勝ちってプログラムするだけの簡単なお仕事

54: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 06:20:30.36 ID:SVuUDAAu
AIは素直だもん
教育者の嗜好がストレートに表れる
だから韓国AIは性ステレオタイプ的で、テンセントはアメリカに移民したい
アメリカAIですら人種を過剰に意識しハッカー的だ

64: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 06:41:14.06 ID:b8YnrWpI
AIにウソを言わせるのは難しいぞ
中国では使用を禁止されてるぞ

71: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 06:53:57.43 ID:ky2ncLby
韓国人から学べる事は嫌悪だけだからな

76: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 06:57:49.37 ID:3c+PDEIc
韓国製のAIなら、既に嘘をつくことを学習してるだろうから
その前提で話をしないとな

83: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 07:05:54.24 ID:ucljKbo6
スパコンも作れない国のAIに何か価値があるんかw

88: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 07:12:50.71 ID:ucljKbo6
同音異語だらけのハングルを理解できるのかw

92: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 07:15:30.32 ID:SUoGn7+K
中国のAIは、共産党は無能だと言いだして停止された

94: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 07:16:16.44 ID:uTa7dDMC
AIなんて性質上リアリスト思考になるやろ?
マイノリティが騒いで権利主張してるのを学べば、そりゃ排除方向になるやろ…

160: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 09:02:24.37 ID:K+8WhYHT
>>94
数年前にアメリカでも同じようなことが起きたし。
あれはナチ賛美と人種差別だったかな?
AIは対話した社会をそのまま取り込んじゃうだけだし。

リアリストにならないよう、スヤリストに設定するしかない。

99: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 07:20:13.39 ID:RozPTbef
対立軸があるところに投げ込むと闘争の手段に使われるからどうにもならんよ

105: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 07:28:22.08 ID:qJ2E70aa
朝鮮人のことはもっと嫌ってるよ

129: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 07:56:05.00 ID:gmhsjAvt
AIはあくまで学んだことを出しただけだろ
そういう考えを持つ人がとても多いということなのでは?
学ぶ範囲をもとから制限したら検証したいこともできないのでは?

140: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 08:20:39.83 ID:SUoGn7+K
というかAIは考えているわけではない
人間の作ったプログラムどおりに動くだけ

149: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 08:37:52.97 ID:f7l1VFGZ
朝鮮人に育てさせたら朝鮮人になるに決まっている

159: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 09:00:21.43 ID:iCiy9G5Q
スパコンが正しいシミュレーションを出しても人間が隠すとかはあるよね

169: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 09:14:03.43 ID:aTkN5g6K
韓国人の本音を代弁しただけだろ。

コンピューターにまで嘘をつけせるのは無理。

171: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 09:15:29.27 ID:qhVH6cmO
タブーを決めたりするならAIの信用性はグッと落ちるね。結局エンジニア次第になっちゃうし。

176: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 09:21:39.18 ID:px6zJn/J
優秀なほどダメダメになってゆく朝鮮人AI

202: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 10:24:55.99 ID:4w4aM3d2
嫌韓まで発展しないとは無能なAIだな

207: <丶`∀´>(´・ω・`)(`ハ´  )さん 2021/01/13(水) 10:42:18.33 ID:UflOin7o
朝鮮人との会話から学習するなら
それはもう差別主義的なAIになるだろ

引用元: ・【チャットボット】わずか1日で“嫌悪”を学習したAI、「イルダ」が韓国社会に投げかけた質問


スポンサーリンク