新創公司的AI演算法也會違反個資保護相關法規?義大利食物外送平台遭罰260萬歐元

更新於 發佈於 閱讀時間約 2 分鐘
Foodinfo是食物外送平台(類似於uber eats, foodpanda),在義大利是主要的外送平台之一。義大利個資保護機關於2021.06.10數位平台Foodinfo開罰260萬歐元(約1億新台幣),因為他們違反多項GDPR規定(包含第5以及第13、22、25、30、32、35、37),其中最重要為他們使用具有歧視性的AI演算法管理旗下的外送員。
他們的AI演算法做錯了什麼?

Foodinfo AI演算法如何運作?

Foodinfo系統會根據消費者、商家的評價、外送員接單率、忙碌時段上工率、一週平均上工率、是否曾拒絕接單、對於接單通知的反應速度(例如出現接單通知後3秒鐘按同意接單或3分鐘後按同意接單)等狀況放入AI系統中算出對於外送員的評分,AI會再根據此評分分配工作給外送員,因此評分低的外送員所可以送到的單就會比較少。
AI也會因上面所得之結果不斷重新運算,調整各項配分的比例,發單的方式、時間、地點等等。

那麼義大利個資保護機關認為Foodinfo做錯了哪些事?

1.Foodinfo雖然有設置異議的機制,但義大利個資主管機關認為這是假的機制,根本無法影響AI運算的結果。
2.AI會如何運算、運算會採納重要要素,Foodinfo都沒有告知外送員。
3.Foodinfo並沒有做好防護措施,有可能將基於錯誤或是偏見的意見納入計算標準中(例如消費者或商家無正當理由給低分的情形並未排除)

義大利個資保護機關要求改正!

首先,必須要最小化基於錯誤或是偏見的評分,過去由消費者或是商家所進行的評分,其中具有歧視性的評分Foodinfo並沒有剔除(例如只因外送員是少數民族或特定宗教信仰者、消費者多等數分鐘給予低分),並且會基於這項評分評價外送員的表現。接著Foodinfo會根據根據AI計算出的評價結果,分配特定外送員多一點的工作,減少評價低的外送員工作。
因此Foodinfo需要加強對於消費者與外送員的對話內容、通話記錄、每15秒鐘外送員的地理位置、送餐路線、預計的送達時間、過去消費者與商家的評價紀錄、甚至是手機電力等等以確認消費者與商家的評價是否允當,是否有歧視性的評分。
第二,義大利個資保護機關要求Foodinfo需要處理對於,AI演算法必須去減少對於外送員的處罰。
註:foodinfo是一家發起於義大利的線上食物外送公司,該公司與旗下外送員係簽訂承攬契約,但於2020年時,義大利最高法院認為外送員應要受有勞工權益。當時他們有19,000名外送員。
新創公司創造了許多不同的商業模式,但近年來各國對於新創公司開罰的案例或是不利的判決也愈來愈多。
為什麼會看到廣告
留言0
查看全部
avatar-img
發表第一個留言支持創作者!
曾受破產宣告經歷過債務重整的個人可以向信用評分機構主張遺忘權,要求信用評分機構刪除過去破產的紀錄或是相關的財務資料嗎? 奧地利法院給了答案
使用Facebook、Google、iCloud 是有服務費你知道嗎?我不是商業用、個人免費使用也需要收費嗎?但這些科技公司沒有叫我付費啊?其實有的。我們是用自己的個資跟科技公司交換服務。這篇將介紹日本政府近期推動的新事業,叫做「情報銀行」。
金管會推行生物認證辨識身份,導入FIDO標準,最快將於Q4上路,將可擴大金融科技的應用場景。FIDO解決了什麼問題?為什麼FIDO可以擴大金融科技應用場景?
雇主是否可以用監視錄影器監視員工休息室?指紋打卡制是否違反GDPR?網站管理者蒐集個資時需注意的事項?
2020.10月 就在H&M宣布關閉全球250家分店的那一天, H&M偷偷蒐集德國特定地區員工個人資訊遭德國個資主管機關處以3500萬歐元(將近台幣12億),此為截至目前因違反個資法規所裁處的史上第二高的罰鍰金額。
2021.05.15德國漢堡個資主管機關(The Hamburg Commissioner for Data Protection and Freedom of Information)採取GDPR下賦予的緊急措施禁止Facebook取用Whatsapp用戶的個人資料。此命令即時生效。
曾受破產宣告經歷過債務重整的個人可以向信用評分機構主張遺忘權,要求信用評分機構刪除過去破產的紀錄或是相關的財務資料嗎? 奧地利法院給了答案
使用Facebook、Google、iCloud 是有服務費你知道嗎?我不是商業用、個人免費使用也需要收費嗎?但這些科技公司沒有叫我付費啊?其實有的。我們是用自己的個資跟科技公司交換服務。這篇將介紹日本政府近期推動的新事業,叫做「情報銀行」。
金管會推行生物認證辨識身份,導入FIDO標準,最快將於Q4上路,將可擴大金融科技的應用場景。FIDO解決了什麼問題?為什麼FIDO可以擴大金融科技應用場景?
雇主是否可以用監視錄影器監視員工休息室?指紋打卡制是否違反GDPR?網站管理者蒐集個資時需注意的事項?
2020.10月 就在H&M宣布關閉全球250家分店的那一天, H&M偷偷蒐集德國特定地區員工個人資訊遭德國個資主管機關處以3500萬歐元(將近台幣12億),此為截至目前因違反個資法規所裁處的史上第二高的罰鍰金額。
2021.05.15德國漢堡個資主管機關(The Hamburg Commissioner for Data Protection and Freedom of Information)採取GDPR下賦予的緊急措施禁止Facebook取用Whatsapp用戶的個人資料。此命令即時生效。
你可能也想看
Google News 追蹤
提問的內容越是清晰,強者、聰明人越能在短時間內做判斷、給出精準的建議,他們會對你產生「好印象」,認定你是「積極」的人,有機會、好人脈會不自覺地想引薦給你
Thumbnail
城市生活報 http://www.citylifenews.net 影片 https://www.youtube.com/watch?v=ygdkFeYhPCw https://www.youtube.com/watch?v=ygdkFeYhPCw立委王鴻薇針對外送平台壟斷外送基層權益難保障,在
Thumbnail
在介紹本書前先說說我讀後心得:不管是中國大陸的美團外送,還是在台灣的熊猫及吳柏役,早有許多外送員抱怨外送費一日不如一日,甚至懷疑起平台計算酬勞機制,無獨有偶,國外早有人,也就是本書作者親自下去跑單,一筆一筆算,看這些平台究竟在搞什麼?最後發現公司使用演算法運作這整個機制,根本不是為了效率,而是為了發
Thumbnail
臺灣外送產業權益促進聯盟代表王郁揚表示,雖然目前已有一些地方自治條例和中央行政命令試圖規範外送產業,但這些措施往往缺乏強制性,無法全面解決問題,他強調,唯有通過制定專門的外送產業專法,才能真正建立一個公平、安全、可持續發展的外送產業生態系統。
Thumbnail
一日三餐是我們每天必經的循環,加上現代人生活忙碌,外食頻率極高。然而,食安事件卻時不時發生,引得人心惶惶。在台灣,有許多微型的食品生產者,如小農自產加工、夜市攤販、路邊小吃,或網路上販賣的各種手工食品等,這些食品製造並無完善的食安管理機制,營養標示或食品檢驗等管道也因成本高昂,並非微型業者可負擔。為
Thumbnail
從前的人送外賣是顧客直接致電餐廳,下了單,由餐廳職員派人送至顧客處,但有可能因不同因素(如職員漏單, 繁忙時間未有人送, 落錯單等等)以致外賣延誤或出錯。現今送外賣很簡單,一個APPS便可以,從接單, 送餐,都在APPS可以看到詳細資料和情況,科技進步使送外賣也方便得多。 我選用的外送平台,是
Thumbnail
自動化和AI是趨勢,餐廳送餐帶位都有機器人了,也有愈來愈多餐廳以QRCode點餐。 種種現象傳達出一項警訊:人力的需求在改變。餐廳低薪事累請不到服務生,這種工作也不可能給更高的薪水,結果是人類的工作被新的方式取代,而原本可以當服務生維生的人,可能更沒有工作機會。 看到朋友轉貼了一則報導: 為
Thumbnail
Uber Eats 最近花大概 300 億台幣買下台灣的 foodpanda 業務 因為覺得這個新聞太有意思 我把這則英文新聞的「重點內容 + 英文用法解釋」整理在這篇文章給你 一邊聽故事的同時也可以學到很多跟「商業現象」有關的英文描述方式喔!
Thumbnail
近年來,外送平台在台灣蓬勃發展,Uber Eats和foodpanda兩大龍頭更是佔據了大半市占率。這項消息一出,立刻引發熱議。不少人擔心,這會不會造成外送市場獨占,導致價格上漲、服務品質下降?其實,在經濟學中,獨占和寡占都是常見的市場型態。當一個市場只有一家或少數幾家企業時,這些企業就能夠控制一切
Thumbnail
「要被割韭菜啦~~~」這不是在講股票,而是這幾天許多台灣人(特別是外食族群)都在關心的新聞之一,就是Uber宣布以9億5000萬美元併購Delivery Hero旗下的foodpanda台灣外送事業。 許多台灣人都擔心這樣的併購有壟斷行為,也有人希望公平會能夠以「避免壟斷」來反對此筆併購。
提問的內容越是清晰,強者、聰明人越能在短時間內做判斷、給出精準的建議,他們會對你產生「好印象」,認定你是「積極」的人,有機會、好人脈會不自覺地想引薦給你
Thumbnail
城市生活報 http://www.citylifenews.net 影片 https://www.youtube.com/watch?v=ygdkFeYhPCw https://www.youtube.com/watch?v=ygdkFeYhPCw立委王鴻薇針對外送平台壟斷外送基層權益難保障,在
Thumbnail
在介紹本書前先說說我讀後心得:不管是中國大陸的美團外送,還是在台灣的熊猫及吳柏役,早有許多外送員抱怨外送費一日不如一日,甚至懷疑起平台計算酬勞機制,無獨有偶,國外早有人,也就是本書作者親自下去跑單,一筆一筆算,看這些平台究竟在搞什麼?最後發現公司使用演算法運作這整個機制,根本不是為了效率,而是為了發
Thumbnail
臺灣外送產業權益促進聯盟代表王郁揚表示,雖然目前已有一些地方自治條例和中央行政命令試圖規範外送產業,但這些措施往往缺乏強制性,無法全面解決問題,他強調,唯有通過制定專門的外送產業專法,才能真正建立一個公平、安全、可持續發展的外送產業生態系統。
Thumbnail
一日三餐是我們每天必經的循環,加上現代人生活忙碌,外食頻率極高。然而,食安事件卻時不時發生,引得人心惶惶。在台灣,有許多微型的食品生產者,如小農自產加工、夜市攤販、路邊小吃,或網路上販賣的各種手工食品等,這些食品製造並無完善的食安管理機制,營養標示或食品檢驗等管道也因成本高昂,並非微型業者可負擔。為
Thumbnail
從前的人送外賣是顧客直接致電餐廳,下了單,由餐廳職員派人送至顧客處,但有可能因不同因素(如職員漏單, 繁忙時間未有人送, 落錯單等等)以致外賣延誤或出錯。現今送外賣很簡單,一個APPS便可以,從接單, 送餐,都在APPS可以看到詳細資料和情況,科技進步使送外賣也方便得多。 我選用的外送平台,是
Thumbnail
自動化和AI是趨勢,餐廳送餐帶位都有機器人了,也有愈來愈多餐廳以QRCode點餐。 種種現象傳達出一項警訊:人力的需求在改變。餐廳低薪事累請不到服務生,這種工作也不可能給更高的薪水,結果是人類的工作被新的方式取代,而原本可以當服務生維生的人,可能更沒有工作機會。 看到朋友轉貼了一則報導: 為
Thumbnail
Uber Eats 最近花大概 300 億台幣買下台灣的 foodpanda 業務 因為覺得這個新聞太有意思 我把這則英文新聞的「重點內容 + 英文用法解釋」整理在這篇文章給你 一邊聽故事的同時也可以學到很多跟「商業現象」有關的英文描述方式喔!
Thumbnail
近年來,外送平台在台灣蓬勃發展,Uber Eats和foodpanda兩大龍頭更是佔據了大半市占率。這項消息一出,立刻引發熱議。不少人擔心,這會不會造成外送市場獨占,導致價格上漲、服務品質下降?其實,在經濟學中,獨占和寡占都是常見的市場型態。當一個市場只有一家或少數幾家企業時,這些企業就能夠控制一切
Thumbnail
「要被割韭菜啦~~~」這不是在講股票,而是這幾天許多台灣人(特別是外食族群)都在關心的新聞之一,就是Uber宣布以9億5000萬美元併購Delivery Hero旗下的foodpanda台灣外送事業。 許多台灣人都擔心這樣的併購有壟斷行為,也有人希望公平會能夠以「避免壟斷」來反對此筆併購。