ВПЕРВЫЕ ИГРАЮ С ЧИТАМИ ЗА ПРЕДАТЕЛЯ В AMONG US МАЙНКРАФТ!
プロのシェフや心臓外科医のように、機械学習アルゴリズムはそれが受けるトレーニングと同じくらい良いです。そしてアルゴリズムがますます人間のために治世を取り、決定を下すにつれて、我々はそれらが人間の人種や性別に基づく偏りを模倣し、さらに新しい問題を生み出すため、最高の教育を受けられなかったことを発見している。
これらの理由から、カリフォルニア、ニューヨーク、ウィスコンシンを含む複数の州が、収容された後にどの人々が再び犯罪を犯すかを予測するためにアルゴリズムを使用していることが特に関係しています。さらに悪いことに、それはうまくいっていないようです。
水曜日にジャーナルに掲載された論文の中で 科学の進歩 ダートマス大学の一対のコンピュータ科学者は、再犯を予測するために広く使われているコンピュータプログラムは、完全に訓練されていない一般市民よりも正確ではないことを発見した。このプログラムは、代替制裁のための是正的犯罪者管理プロファイリングと呼ばれ、人が釈放後に別の犯罪を犯す可能性がどれほど高いかを判断するために137の異なる要因を分析します。 COMPASは、薬物使用、社会的孤立、そして犯罪学者が理論的に再犯につながる可能性があるその他の要素について、人々を高い、中程度、または低いリスクとしてランク付けすると考えている。
確かに、リスクアセスメントは素晴らしいように思えます。裁判所が誰がよりリスクが高いかを判断するのに役立つデータをもっと多く持っていないのはなぜですか。しかし、Dartmouthのコンピュータ科学者Julia DresselとHany Faridが発見したのは、訓練を受けていない個人がCOMPASとほぼ同じ正確さで再犯リスクを正しく判断したということです。
COMPASで使用されている情報のほんの一部（137の代わりに7つの要素、人種を除く）を含む1件の試験で、インターネット上の人間のボランティアのグループは、おそらく犯罪リスク評価の訓練を受けていない。彼らは、COMPASの65パーセントの正確さと比較して、67パーセントの正確さでその人の再犯を正しく推定しました。
ちょっと時間をかけてそのことを見逃してはいけない。ウェブ上の訓練を受けていない人々は、ある人が刑務所に戻るかどうかを予測することにおいて少し優れていた。 人が刑務所に戻るかどうかを予測するために文字通りに設計されたツールよりも 。そしてそれは悪化します。被告の人種を追加すると、ボランティアの偽陽性率と偽陰性率は、COMPASのわずか数パーセント以内に収まりました。したがって、COMPASは再犯を予測するのにそれほど優れていないだけでなく、人が人種的に偏りがちな傾向があります。コンピュータのコールドロジックには、これだけです。
その後、研究者らは、COMPASの予測率と、年齢および過去の有罪判決数の2つの要素とを一致させる線形モデルを作成しました。明確にするために、この予測もまた不公平ですが、それはCOMPASがどれほど欠陥があるかを示しています。
そしてこの研究は新しいものですが、それが支持する大きな要点はそうではありません。 2016年の調査では、 ProPublica レポーターは、COMPASは信頼性が低いだけでなく、実際にはアフリカ系アメリカ人に対して体系的に偏っており、黒人をより深刻な犯罪を犯した白人より高いリスクとして一貫して評価しています。うまくいけば、この新しい研究は、刑事司法制度における急上昇するリスク評価プロセスへの道を切り開くのに役立つでしょう。
COMPASはせいぜい無用であり、最悪の場合は深く偏っているという事実は、コンピュータベースのリスク評価が、司法制度が取り組むべきであるという不正を深める可能性があることを示唆している。リスクアセスメントスコアは、人の絆を設定したり、仮釈放を認められたかどうかを判断したり、場合によっては人の刑を決定する場合でも、刑事司法プロセスの任意のステップで適用できます。 COMPASや他のプログラムの使用を再検討してください。