人工知能(AI)は人間が持つ偏見や差別を受け継ぐため、近年は倫理的側面からAIの危険性に懸念が持たれています。
歴史的にコンピューターサイエンス分野の研究では倫理的な議論が持たれてこなかったそうですが、状況が大きく変わりつつあると、科学界の変容についてサイエンス系ライターのマシュー・ハンソン氏がまとめています。
Who Should Stop Unethical A.I.? | The New Yorker
https://www.newyorker.com/tech/annals-of-technology/who-should-stop-unethical-ai
ハンソン氏によると、コンピューターサイエンスの査読付き論文が発表される主たる機会はジャーナルではなくカンファレンスであり、これは他の学術研究とは異なる点とのこと。
（以下略、続きはソースでご確認下さい）
https://gigazine.net/news/20210217-stop-unethical-ai/
コメント
3: 名無しのひみつ 2021/02/17(水) 11:36:00.46 ID:kVf0YbCa
始めんとなぁ…
「最大多数の最大幸福」を AI に求めたら
現代では「非人道的」と思われる判断を
いつか必ずやらかすだろうし。
倫理って何みたいな論争がしたければ、それこそＡＩどうしでディベートでやたらせておけばいい。
何が倫理的で何がそうでないかの線引きであれば、時代や社会とともに変わる。
それぞれの時代や社会で、そのつど人間がきっちりと線引きできるかどうかが重要。
アホな子供はすぐに、普遍妥当、永遠不滅の基準を欲しがる。
原理原則に固執し、極論に陶酔し、思考に柔軟性がない。
幼稚なのだ。
倫理なんて宗教と全く同じだよ
教祖になりそこねた奴が倫理学者を名乗ってるだけ
まずは「人間とは何か」から定義しないと
と放置することはできないものかな、今のところはAIが銃を持って人間を攻撃してくる
わけじゃないでしょ。
ワカラン。
人を学修させるなら20人分のデータにしたほうが良い
多すぎるとバグる、まだ人の作るAIは賢くないから
ガンガン開発したら宜しい
倫理において人間が対処する速度を上げたら済むだけ
まだ人工知能を議論すべき段階には至ってないよ
皆も知ってのとおり、人類は聖人君子の集りではない
そこから得られる統計的データは、必ず在るべき倫理から外れたものになる
・政治的に正しいAI
・毒舌AI
・ボケ突っ込みAI
・自分不器用っすからAI
これってAIの問題じゃなくて、単にポリコレさんの問題だよね。
AIに人事評価をさせると、一般的に、男性を女性よりも高く評価してしまう。
これはポリコレに反する！けしからん！！って話だけど。
AIにバイアスがあるのなら、バイアスかからないように学習させれば良いだけの話。
でも、そうするとポリコレに反する結果になる。それじゃ困る。って言ってるんだよね。
何が「倫理」なの？AIが倫理に反するのじゃなくて、単にポリコレが倫理に反してるだけだよね？
こういう、非科学的で前時代的なことを主張してるやつらは、そろそろもう全員消えてくれよ、と強く思う。
こういう人たちが今後、どういう主張に向かって行くのかは、少し興味があって観察している。
まずは「ポリコレに反するAIは使用禁止！」だが、それをやっていると使えるものが少なくなるので、
じゃあ「学習させる際にバイアスをかけよう！」ってことになる。
つまり、わざと女性に有利なように下駄をはかせて、ポリコレも含めて学習させる。
でも、そういう不自然なやり方が成功するわけがない、ってことは、科学者であればみんな知っている。
一度データを捏造し始めたら、永遠に捏造を続けるしかなく、いつかは袋小路に陥るってことは誰もが知っている。
まあ、どうせポリコレなんて時代遅れの旧人類しか信じていないものだからね。
いずれは「ふーん？昔の人はずいぶん変なこと考えてたものだねｗ」っていう話になると思う。
開発者の指定したデータ分析して反応してるだけ
ま、将来的に出来るような仕組みは入れるとか
可能かもしれんが、今は無理。
自動でプログラムを作り替える機能を入れたら制御不能になるだけだよ。
そんな業務に使えんから入らない。
しかし人類を尊重する基本プログラムが守られれば輝かしい未来がくるかも
ターミネーターみたいな世界になるのが一番予測される
しかしAIに対抗して人類も頭にバイオチップのような物を埋め込みAIと同等な知能を持てば共生は可能だろう
宗教依存であろ
アシモフのロボットの三原則？みたいなので良いのでは、解釈はアイちゃん自身にやらせる
別にいいんじゃねーの
AIを取り締まる警察な
流れに任せてたら5chやバカッターみたいなAIになるやろ
理想を保ちつつ何者をも許容するって神の如くの振舞いが今現在の人間に出来てないなら人間と共存できるAIはまだ無理じゃない？
クローズドで研究者だけが扱い資本の影響を受けない環境ならあるいは
中国で発表されたけど、しばらくすると共産党への罵言批判を機関銃のように喋りまくり
キンペーをボロクソに貶し始めたんで速攻削除された対話学習型AIってなかったっけ
中国人の会話を学習させたらそうなるわな
黒人差別とか白人が黒人を恐れる理由ってそういうところにあると思うんだよね
そういうのを受け入れない時点でもうAI事業はただバイアスのかかったクソだよ
たぶん今どきの画像認識技術なら、黒人とゴリラは間違えないと思うｗ
かといって日本が作ったとて斜陽化したら颯爽と海外勢がやってきて大金ビンタで奪っていく
じゃあ最初からそんなもんいらねって感じ俺は
今までいくつか恩恵受けてきたけど
もう目だったものは使ってないし
というか倫理に反すると思う人間がいて記事になるレベルで取り上げられる時点で商業としてどうなのって疑問もある
AIの開発は実際のところ開発における人間を理解する道程こそ重要だから
そう言うのは素晴らしい
H：お願いだ、やめないでくれ、
という風にAIによって中毒させられて骨抜きにされている人類であった。
AIをスマホに置き換えてみれば、今でもある程度理解できるのではないかね。
コメント