※ 本文為 MindOcean 轉寄自 ptt.cc 更新時間: 2019-12-15 21:43:51
看板 Gossiping
作者 標題 [新聞] Google推出機器學習公平性量測工具以評
時間 Sun Dec 15 18:52:31 2019
ithome
Google推出機器學習公平性量測工具以評估模型偏見
文/李建興 | 2019-12-15發表
Google發布了Fairness Indicators工具，可針對二元和多類別分類（Classification）
進行運算與視覺化，幫助機器學習開發團隊，評估與修正模型所存在的偏差。
產業界與學術界大量地使用機器學習技術解決問題，但是機器學習演算法和資料集，可能
同時反映且強化了偏差。Google提到，偏差有可能出現在機器學習工作管線的任何部分，
從資料集到模型的表示，甚至是將結果呈現給終端使用者的方式都不例外。
同時反映且強化了偏差。Google提到，偏差有可能出現在機器學習工作管線的任何部分，
從資料集到模型的表示，甚至是將結果呈現給終端使用者的方式都不例外。
而為了檢測機器學習存在的偏差，針對單一用戶或是用戶群的評估非常重要，Google強調
，因為總體指標可以掩蓋某些群組不良的狀況，這些群組包括敏感的特徵群體，像是種族
、性別、國籍、收入、性傾向、能力和宗教信仰。
，因為總體指標可以掩蓋某些群組不良的狀況，這些群組包括敏感的特徵群體，像是種族
、性別、國籍、收入、性傾向、能力和宗教信仰。
Google的人工智慧原則其中一項，是要避免造成或是加強不公平的偏見，他們也持續在這
領域耕耘，現在並於TensorFlow World大會發布了Fairness Indicators工具。Fairness
Indicators可運算並視覺化像是誤報率等常用的分類模型公平性指標，還能計算信賴區間
，以多個閾值進行評估。在使用者介面上，使用者可以切換基準群組並調查不同指標的效
能，也可為自己的使用案例，增加自定義的視覺化指標。
領域耕耘，現在並於TensorFlow World大會發布了Fairness Indicators工具。Fairness
Indicators可運算並視覺化像是誤報率等常用的分類模型公平性指標，還能計算信賴區間
，以多個閾值進行評估。在使用者介面上，使用者可以切換基準群組並調查不同指標的效
能，也可為自己的使用案例，增加自定義的視覺化指標。
Fairness Indicators可以用來產生透明性報告指標，以幫助開發人員更負責地調校模型
，Google表示，公平性的顧慮與評估會因為案例而不同，因此Fairness Indicators工具
還包含了一個互動式研究案例，提供Jigsaw毒性資料產生的意外偏差，說明使用
，Google表示，公平性的顧慮與評估會因為案例而不同，因此Fairness Indicators工具
還包含了一個互動式研究案例，提供Jigsaw毒性資料產生的意外偏差，說明使用
Fairness Indicators檢測和修補機器學習模型偏差的方法。
Google提到，光靠指標與測量並無法讓機器學習模型實現完全的公平，這些方法僅是辨識
與解決偏差的其中一環。
https://www.ithome.com.tw/news/134834
![[圖]](http://i4.disp.cc/t/0/s4.itho.me_sites_def3e325f84f6c91399d0fa4bb8d0e57e25.jpg)
--
※ 發信站: 批踢踢實業坊(ptt.cc), 來自: 61.231.251.226 (臺灣)
※ 文章代碼(AID): #1TzXAWzl (Gossiping)
※ 文章網址: https://www.ptt.cc/bbs/Gossiping/M.1576407712.A.F6F.html
噓 :1F 223.137.82.251 台灣 12/15 19:01
推 : 首推2F 101.12.20.183 台灣 12/15 19:01
推 : 錢3F 39.12.160.57 台灣 12/15 19:01
推 : 錢4F 118.161.83.212 台灣 12/15 19:01
推 : 錢5F 223.140.204.222 台灣 12/15 19:01
推 : 推6F 223.138.77.143 台灣 12/15 19:02
推 : 錢7F 223.136.71.3 台灣 12/15 19:02
推 : 錢8F 123.194.161.167 台灣 12/15 19:02
→ : 錢9F 110.28.106.82 台灣 12/15 19:02
推 : 錢10F 111.253.55.186 台灣 12/15 19:02
→ : 777777 錢11F 49.159.121.20 台灣 12/15 19:02
推 : 錢12F 111.83.213.155 台灣 12/15 19:02
推 : 錢13F 114.35.140.109 台灣 12/15 19:02
→ : 錢14F 42.74.81.21 台灣 12/15 19:02
推 : 錢15F 1.170.189.206 台灣 12/15 19:02
推 : 錢16F 114.136.102.133 台灣 12/15 19:02
推 : $$17F 114.137.112.109 台灣 12/15 19:02
推 : 錢18F 61.223.42.174 台灣 12/15 19:02
推 : 錢19F 117.19.229.175 台灣 12/15 19:02
推 : 發錢20F 140.115.238.76 台灣 12/15 19:02
推 : 777777777721F 27.242.170.169 台灣 12/15 19:02
推 : 錢22F 36.230.85.168 台灣 12/15 19:02
→ : 錢23F 101.15.217.200 台灣 12/15 19:02
推 : 7777777724F 175.97.36.114 台灣 12/15 19:02
→ : 錢25F 114.27.242.232 台灣 12/15 19:02
推 : 錢26F 1.175.66.201 台灣 12/15 19:02
→ : 錢27F 49.214.163.235 台灣 12/15 19:02
推 : 錢28F 61.64.108.22 台灣 12/15 19:02
推 : 錢29F 101.12.61.192 台灣 12/15 19:02
→ : 錢30F 101.15.205.93 台灣 12/15 19:02
推 : 笑死31F 123.195.224.243 台灣 12/15 19:02
推 : 錢32F 123.241.208.177 台灣 12/15 19:02
推 : [url=https://imgur.com/tG444F3]https://i.imgur.com/tG444F3.gif[/url]33F 101.12.56.41 台灣 12/15 19:03
推 : 77734F 223.137.242.99 台灣 12/15 19:03
推 : 錢35F 114.37.149.126 台灣 12/15 19:03
推 : 錢36F 220.141.49.221 台灣 12/15 19:03
推 : 錢37F 180.217.228.184 台灣 12/15 19:03
推 : 錢啦38F 111.254.45.217 台灣 12/15 19:03
推 : 給錢39F 27.242.190.210 台灣 12/15 19:03
推 : 結果沒人在理內文XD40F 123.241.239.251 台灣 12/15 19:04
推 : 錢41F 42.77.88.198 台灣 12/15 19:04
推 : 錢42F 220.141.3.167 台灣 12/15 19:04
推 : 錢43F 126.34.121.124 日本 12/15 19:04
推 : 錢44F 36.235.0.117 台灣 12/15 19:04
推 : 錢45F 39.12.72.127 台灣 12/15 19:04
推 : 錢46F 219.70.141.130 台灣 12/15 19:04
推 : 錢47F 220.133.16.176 台灣 12/15 19:04
推 : 吃48F 220.135.89.251 台灣 12/15 19:05
推 : 錢49F 223.141.92.167 台灣 12/15 19:05
→ : 錢50F 39.8.38.95 台灣 12/15 19:06
推 : 錢51F 172.58.27.21 美國 12/15 19:06
→ : $$$52F 211.20.90.229 台灣 12/15 19:06
推 : 錢53F 180.217.79.111 台灣 12/15 19:06
推 : 錢54F 118.168.201.79 台灣 12/15 19:06
推 : 推55F 49.216.46.124 台灣 12/15 19:07
推 : 錢56F 223.136.82.158 台灣 12/15 19:07
推 : 7777777757F 180.217.116.179 台灣 12/15 19:08
→ : 想說哪來這麼多推58F 122.117.149.53 台灣 12/15 19:08
推 : 錢錢59F 182.234.160.141 台灣 12/15 19:08
推 : 錢60F 223.138.224.100 台灣 12/15 19:08
推 : 錢61F 110.50.160.97 台灣 12/15 19:08
推 : 給我錢62F 61.58.175.40 台灣 12/15 19:08
推 : 無心搶7就會搶到63F 223.136.24.248 台灣 12/15 19:08
推 : 幹 發錢喔64F 101.9.140.3 台灣 12/15 19:09
推 : 77777765F 36.236.50.114 台灣 12/15 19:09
推 : 錢66F 223.136.228.88 台灣 12/15 19:09
→ : 錢67F 223.141.98.253 台灣 12/15 19:10
推 : 錢68F 42.76.144.155 台灣 12/15 19:10
推 : $$69F 175.98.47.141 台灣 12/15 19:10
推 : 77770F 114.43.109.35 台灣 12/15 19:10
推 : 錢！71F 223.136.148.89 台灣 12/15 19:10
推 : 錢錢72F 117.19.215.14 台灣 12/15 19:10
推 : 錢73F 101.137.92.41 台灣 12/15 19:11
推 : 錢74F 118.161.73.20 台灣 12/15 19:11
推 : 錢75F 223.137.107.147 台灣 12/15 19:13
推 : 錢76F 180.217.162.5 台灣 12/15 19:14
推 : 錢77F 49.215.128.110 台灣 12/15 19:15
噓 : 反詐騙78F 111.246.30.223 台灣 12/15 19:15
→ : 反詐騙
→ : 反詐騙
推 : ?????80F 218.164.161.24 台灣 12/15 19:15
推 : ？錢81F 114.137.178.137 台灣 12/15 19:15
推 : 錢82F 203.160.80.40 香港 12/15 19:15
推 : 錢83F 111.251.50.211 台灣 12/15 19:16
推 : 錢84F 220.129.52.207 台灣 12/15 19:17
推 : 錢85F 223.137.172.205 台灣 12/15 19:17
→ : 推86F 42.74.218.244 台灣 12/15 19:17
推 : 我賭會跟亞馬遜那套評鑑求職者的AI一樣87F 180.22.96.19 日本 12/15 19:17
→ : 原來是777777 想說莫名其妙...88F 36.235.149.228 台灣 12/15 19:17
→ : 扯到性別問題後就被封殺89F 180.22.96.19 日本 12/15 19:18
推 : 錢90F 223.136.143.55 台灣 12/15 19:18
→ : 錢啦！91F 180.217.165.235 台灣 12/15 19:19
推 : $$92F 210.138.178.193 日本 12/15 19:19
推 : 為啥有錢93F 61.216.8.103 台灣 12/15 19:22
推 : 錢94F 61.228.128.83 台灣 12/15 19:22
推 : 錢95F 125.230.165.2 台灣 12/15 19:23
推 : 給錢96F 111.82.8.207 台灣 12/15 19:24
推 : 錢97F 220.129.227.141 台灣 12/15 19:25
推 : 怎麼還沒爆 錢98F 111.83.250.170 台灣 12/15 19:25
推 : $$$$99F 1.34.233.213 台灣 12/15 19:26
推 : 錢100F 223.136.10.205 台灣 12/15 19:28
推 : 錢101F 101.12.65.230 台灣 12/15 19:28
推 : 錢102F 111.83.245.70 台灣 12/15 19:28
推 : 錢103F 42.77.84.144 台灣 12/15 19:29
推 : 7777777777104F 111.240.122.239 台灣 12/15 19:29
推 : 我還以為這麼多人推錯篇，原來105F 180.217.218.36 台灣 12/15 19:29
推 : 7777777777777106F 114.45.135.144 台灣 12/15 19:30
→ : 錢107F 27.246.69.109 台灣 12/15 19:31
推 : 酷108F 39.12.227.61 台灣 12/15 19:32
推 : 發錢喔109F 223.141.93.226 台灣 12/15 19:32
推 : 錢ㄋ110F 110.28.2.231 台灣 12/15 19:33
推 : XDDDDDDDDDDDDDDDDDDDD111F 220.133.90.64 台灣 12/15 19:34
推 : 發錢喔112F 42.73.58.141 台灣 12/15 19:36
推 : 錢113F 117.19.229.180 台灣 12/15 19:36
推 : 錢114F 1.160.211.233 台灣 12/15 19:38
推 : 錢115F 114.43.77.64 台灣 12/15 19:38
推 : 不就政治正確濾鏡 不然ai不知道有些實話116F 111.71.16.103 台灣 12/15 19:39
→ : 不能說
→ : 不能說
推 : 錢118F 218.173.142.230 台灣 12/15 19:42
推 : 錢119F 223.141.187.218 台灣 12/15 19:43
→ : 學習自助餐模式的公平 :)120F 114.43.105.157 台灣 12/15 19:43
推 : 什麼錢?121F 114.198.186.62 台灣 12/15 19:45
→ : 幹 google真的要統治AI界了122F 1.161.194.53 台灣 12/15 19:46
→ : 被之前的測試結果嚇到了齁123F 223.136.173.220 台灣 12/15 19:47
推 : 錢124F 218.164.63.61 台灣 12/15 19:47
推 : 錢125F 1.170.69.162 台灣 12/15 19:47
推 : 錢126F 36.237.159.115 台灣 12/15 19:50
推 : 777777777127F 140.112.230.119 台灣 12/15 19:51
推 : 錢128F 114.35.47.215 台灣 12/15 19:52
推 : 給錢129F 111.71.220.34 台灣 12/15 19:53
→ : 錢130F 39.8.30.103 台灣 12/15 19:54
→ : 錢131F 114.40.68.224 台灣 12/15 19:54
推 : 誰說八卦沒人 這種文還是爆132F 39.12.231.97 台灣 12/15 19:56
推 : 馬的想說怎麼沒事會爆133F 153.147.196.105 日本 12/15 19:57
推 : 這個大數據一定很驚人134F 1.173.98.36 台灣 12/15 19:57
推 : 錢135F 110.50.131.11 台灣 12/15 20:02
推 : 錢136F 27.242.131.205 台灣 12/15 20:07
推 : 錢137F 220.132.68.179 台灣 12/15 20:07
推 : $138F 140.113.0.229 台灣 12/15 20:15
推 : 錢139F 223.138.133.149 台灣 12/15 20:32
推 : 錢140F 36.225.52.69 台灣 12/15 20:33
推 : 錢141F 111.82.249.213 台灣 12/15 20:35
推 : 點進來想說在錢三小XDD142F 114.136.184.12 台灣 12/15 20:36
推 : 發錢啊幹143F 223.136.143.70 台灣 12/15 20:38
推 : 錢144F 115.82.172.197 台灣 12/15 20:47
推 : 錢喇145F 42.76.24.22 台灣 12/15 20:48
推 : 推 777146F 223.140.157.133 台灣 12/15 20:49
推 : 錢147F 101.14.244.188 台灣 12/15 20:59
推 : 推148F 223.136.119.136 台灣 12/15 21:15
噓 : 三小？149F 125.227.122.115 台灣 12/15 21:28
推 : 錢150F 223.141.194.179 台灣 12/15 21:34
--
作者 nk11208z 的最新發文:
- 18F 14推 1噓
- 因為會看奧術的大部分都是英雄聯盟玩家 甚至至少知道英雄聯盟世界觀的人 那如果連英雄聯盟都不知道的話，看得懂奧術嗎？會不會影響觀看體驗 有沒有完全不懂英雄聯盟，但是奧術看的很開心的人啊 Sent fr …72F 43推 1噓
- 23F 6推 2噓
- 28F 11推 4噓
- 18F 8推
點此顯示更多發文記錄
(￣︿￣)ｐ zerou86 說瞎！
回列表(←)
分享