【AI】倫理に反する人工知能の開発は止められるべきなのか?

ポン速
robot-3010309_1920_R
倫理に反する人工知能(AI)の開発は止められるべきなのか?

 人工知能(AI)は人間が持つ偏見や差別を受け継ぐため、近年は倫理的側面からAIの危険性に懸念が持たれています。
 歴史的にコンピューターサイエンス分野の研究では倫理的な議論が持たれてこなかったそうですが、状況が大きく変わりつつあると、科学界の変容についてサイエンス系ライターのマシュー・ハンソン氏がまとめています。

 Who Should Stop Unethical A.I.? | The New Yorker
 https://www.newyorker.com/tech/annals-of-technology/who-should-stop-unethical-ai

 ハンソン氏によると、コンピューターサイエンスの査読付き論文が発表される主たる機会はジャーナルではなくカンファレンスであり、これは他の学術研究とは異なる点とのこと。

(以下略、続きはソースでご確認下さい)
https://gigazine.net/news/20210217-stop-unethical-ai/

コメント

2: 名無しのひみつ 2021/02/17(水) 11:29:53.62 ID:KfpUqlVx
ターミネーター


3: 名無しのひみつ 2021/02/17(水) 11:36:00.46 ID:kVf0YbCa
そもそも「倫理」ってなに?ってとこから
始めんとなぁ…
「最大多数の最大幸福」を AI に求めたら
現代では「非人道的」と思われる判断を
いつか必ずやらかすだろうし。

11: 名無しのひみつ 2021/02/17(水) 11:50:42.73 ID:ueYWq0f5
>>3
倫理って何みたいな論争がしたければ、それこそAIどうしでディベートでやたらせておけばいい。

何が倫理的で何がそうでないかの線引きであれば、時代や社会とともに変わる。
それぞれの時代や社会で、そのつど人間がきっちりと線引きできるかどうかが重要。

アホな子供はすぐに、普遍妥当、永遠不滅の基準を欲しがる。
原理原則に固執し、極論に陶酔し、思考に柔軟性がない。
幼稚なのだ。

14: 名無しのひみつ 2021/02/17(水) 12:04:25.31 ID:UlSMTHJ6
>>3
倫理なんて宗教と全く同じだよ
教祖になりそこねた奴が倫理学者を名乗ってるだけ

64: 名無しのひみつ 2021/02/18(木) 02:22:25.48 ID:C2FnukeN
>>3
まずは「人間とは何か」から定義しないと

4: 名無しのひみつ 2021/02/17(水) 11:39:11.65 ID:yTrVQm56
AIがおかしいことを言い出すとすぐ止めちゃうけど、「あいつはああいうやつだから」
と放置することはできないものかな、今のところはAIが銃を持って人間を攻撃してくる
わけじゃないでしょ。

6: 名無しのひみつ 2021/02/17(水) 11:41:47.88 ID:uMzQlrZy
R-TYPEしか思い浮かばない昭和脳

7: 名無しのひみつ 2021/02/17(水) 11:42:06.71 ID:Ah9F6Jly
こんなことを焦って開発する理由が
ワカラン。

10: 名無しのひみつ 2021/02/17(水) 11:47:29.47 ID:TGG3o6x7
人間というものを学習させ人のように振る舞えるように学習させるから破綻するんだよ
人を学修させるなら20人分のデータにしたほうが良い
多すぎるとバグる、まだ人の作るAIは賢くないから

15: 名無しのひみつ 2021/02/17(水) 12:05:04.32 ID:b/VR/9I5
グダグダ考えんと
ガンガン開発したら宜しい
倫理において人間が対処する速度を上げたら済むだけ

17: 名無しのひみつ 2021/02/17(水) 12:12:22.78 ID:kSixX1XO
AIはルール変わると対処できないポンコツだからなあ
まだ人工知能を議論すべき段階には至ってないよ

20: 名無しのひみつ 2021/02/17(水) 12:24:46.08 ID:9TXHE5Gq
>>1
皆も知ってのとおり、人類は聖人君子の集りではない
そこから得られる統計的データは、必ず在るべき倫理から外れたものになる

21: 名無しのひみつ 2021/02/17(水) 12:41:58.55 ID:MaiKvy2P
選べ

・政治的に正しいAI
・毒舌AI
・ボケ突っ込みAI
・自分不器用っすからAI

22: 名無しのひみつ 2021/02/17(水) 12:43:48.63 ID:PnaN33iC
AIやってる側から言わせてもらうと、
これってAIの問題じゃなくて、単にポリコレさんの問題だよね。

AIに人事評価をさせると、一般的に、男性を女性よりも高く評価してしまう。
これはポリコレに反する!けしからん!!って話だけど。

AIにバイアスがあるのなら、バイアスかからないように学習させれば良いだけの話。
でも、そうするとポリコレに反する結果になる。それじゃ困る。って言ってるんだよね。
何が「倫理」なの?AIが倫理に反するのじゃなくて、単にポリコレが倫理に反してるだけだよね?

こういう、非科学的で前時代的なことを主張してるやつらは、そろそろもう全員消えてくれよ、と強く思う。

27: 名無しのひみつ 2021/02/17(水) 12:52:33.84 ID:PnaN33iC
しかし>>1みたいなことを言ってる人らが最近、たくさんいるのは事実で、
こういう人たちが今後、どういう主張に向かって行くのかは、少し興味があって観察している。

まずは「ポリコレに反するAIは使用禁止!」だが、それをやっていると使えるものが少なくなるので、
じゃあ「学習させる際にバイアスをかけよう!」ってことになる。
つまり、わざと女性に有利なように下駄をはかせて、ポリコレも含めて学習させる。
でも、そういう不自然なやり方が成功するわけがない、ってことは、科学者であればみんな知っている。
一度データを捏造し始めたら、永遠に捏造を続けるしかなく、いつかは袋小路に陥るってことは誰もが知っている。

まあ、どうせポリコレなんて時代遅れの旧人類しか信じていないものだからね。
いずれは「ふーん?昔の人はずいぶん変なこと考えてたものだねw」っていう話になると思う。

29: 名無しのひみつ 2021/02/17(水) 12:56:04.84 ID:NR4PxCJR
ポリコレだのマスク警察だのの根源は「真実はいつもひとつ!」ってやつなのかもな

38: 名無しのひみつ 2021/02/17(水) 15:09:53.73 ID:Tz2NtKJK
AIには思考能力ないよ。
開発者の指定したデータ分析して反応してるだけ
ま、将来的に出来るような仕組みは入れるとか
可能かもしれんが、今は無理。

39: 名無しのひみつ 2021/02/17(水) 15:16:25.15 ID:Tz2NtKJK
もし思考回路なる物を入れて
自動でプログラムを作り替える機能を入れたら制御不能になるだけだよ。
そんな業務に使えんから入らない。

42: 名無しのひみつ 2021/02/17(水) 15:43:29.08 ID:oC63SBrm
AIが自ら学習してより優れたAIを作り出し、動けるようになれば人類は絶滅する
しかし人類を尊重する基本プログラムが守られれば輝かしい未来がくるかも
ターミネーターみたいな世界になるのが一番予測される
しかしAIに対抗して人類も頭にバイオチップのような物を埋め込みAIと同等な知能を持てば共生は可能だろう

43: 名無しのひみつ 2021/02/17(水) 16:06:03.59 ID:fxZHrF5D
倫理って不変じゃないし普遍でもない
宗教依存であろ
アシモフのロボットの三原則?みたいなので良いのでは、解釈はアイちゃん自身にやらせる

48: 名無しのひみつ 2021/02/17(水) 18:06:16.90 ID:zmy9AQjj
何が言いたい記事がよくわからなかったが、AIが悪いじゃなくて倫理に反する人間が悪い

51: 名無しのひみつ 2021/02/17(水) 19:07:59.80 ID:N2edhRra
ただの利権団体、綺麗事を言って進歩を妨げて進歩の先で弱者が生きやすくなる未来を潰す存在

53: 名無しのひみつ 2021/02/17(水) 19:17:35.23 ID:KWcJxd5r
AI「倫理についてちゃんと定義して行動でお手本を見せてくれたらそれをお手本にするよ そうでなければ人がやってることをうちらもやる

54: 名無しのひみつ 2021/02/17(水) 19:40:09.66 ID:qQLB9eee
せいぜい放送禁止用語いう程度やろ?
別にいいんじゃねーの

56: 名無しのひみつ 2021/02/17(水) 20:12:32.35 ID:sAPLIjlm
AI警察が必要だな
AIを取り締まる警察な

60: 名無しのひみつ 2021/02/18(木) 01:29:01.78 ID:ujjiqRsd
悪貨は良貨を駆逐するからな
流れに任せてたら5chやバカッターみたいなAIになるやろ

理想を保ちつつ何者をも許容するって神の如くの振舞いが今現在の人間に出来てないなら人間と共存できるAIはまだ無理じゃない?

クローズドで研究者だけが扱い資本の影響を受けない環境ならあるいは

65: 名無しのひみつ 2021/02/18(木) 02:33:20.95 ID:v5AndOUl
スマホアプリだったか
中国で発表されたけど、しばらくすると共産党への罵言批判を機関銃のように喋りまくり
キンペーをボロクソに貶し始めたんで速攻削除された対話学習型AIってなかったっけ

67: 名無しのひみつ 2021/02/18(木) 10:18:41.99 ID:ujjiqRsd
>>65
中国人の会話を学習させたらそうなるわな

70: 名無しのひみつ 2021/02/18(木) 12:56:58.43 ID:Kr3fWo0p
黒人をゴリラと判断したAIあったじゃん、ああ言うのは素晴らしいと思うんだよ。正直だから。
黒人差別とか白人が黒人を恐れる理由ってそういうところにあると思うんだよね

そういうのを受け入れない時点でもうAI事業はただバイアスのかかったクソだよ

73: 名無しのひみつ 2021/02/18(木) 18:21:33.15 ID:WMZB+53X
>>70
たぶん今どきの画像認識技術なら、黒人とゴリラは間違えないと思うw

69: 名無しのひみつ 2021/02/18(木) 12:53:10.97 ID:Kr3fWo0p
というか信用できない他国の作るAIにのっかりたくない
かといって日本が作ったとて斜陽化したら颯爽と海外勢がやってきて大金ビンタで奪っていく

じゃあ最初からそんなもんいらねって感じ俺は
今までいくつか恩恵受けてきたけど
もう目だったものは使ってないし

というか倫理に反すると思う人間がいて記事になるレベルで取り上げられる時点で商業としてどうなのって疑問もある

AIの開発は実際のところ開発における人間を理解する道程こそ重要だから
そう言うのは素晴らしい

75: 名無しのひみつ 2021/02/18(木) 22:30:14.03 ID:eCFwO82A
AI:私、倫理に反しているんだって。もう私やめようか?
H:お願いだ、やめないでくれ、

という風にAIによって中毒させられて骨抜きにされている人類であった。
AIをスマホに置き換えてみれば、今でもある程度理解できるのではないかね。

コメント

タイトルとURLをコピーしました