Czyżby Google Gemini skanowało pliki PDF w Google Drive bez zgody użytkownika?

Pytanie w tytule jest postawione nie bez przyczyny. Taki zarzut wobec AI Google’a ma Kevin Bankston, prawnik, adiunt z Uniwersytetu Georgetown, Senior Advisor AI Governance. 

Usługa Google Gemini AI zaczęła skanować prywatne dokumenty na Dysku Google bez wyraźnej zgody użytkowników – wynika z raportu opublikowanego przez Kevina Bankstona na Twitterze. Naukowiec omawia możliwe przyczyny, dla których problem dotyczy użytkowników takich jak on, jednak brak kontroli nad wrażliwymi informacjami jest nie do przyjęcia dla firmy o renomie Google. Tego rodzaju problemy budzą obawy dotyczące prywatności w kontekście szerokiego wdrażania sztucznej inteligencji.

Zarówno wsparcie techniczne Google, jak i Gemini AI nie są w stanie udzielić jednoznacznej odpowiedzi, ale Kevin Bankston przedstawił kilka teorii, szczegółowo opisując problem w całym wątku. Wbrew początkowym doniesieniom, problem dotyczy Google Drive, a nie Google Docs, choć istnieje ryzyko, że problem może również dotyczyć Docs. Jakie są przyczyny tego problemu? Według Gemini AI ustawienia prywatności powinny być dostępne, jednak tak nie jest, co oznacza, że AI może „fantazjować (kłamać)” lub wewnętrzne systemy Google mogą mieć poważne usterki. W każdym przypadku sytuacja nie przedstawia się dobrze, nawet jeśli te prywatne dane rzekomo nie są wykorzystywane do trenowania Gemini AI.

Just pulled up my tax return in @Google Docs–and unbidden, Gemini summarized it. So…Gemini is automatically ingesting even the private docs I open in Google Docs? WTF, guys. I didn’t ask for this. Now I have to go find new settings I was never told about to turn this crap off.

— Kevin Bankston (@KevinBankston) July 10, 2024

Problem w dużej mierze wynikać miał ostatecznie z błędnej lokalizacji lub nieprawidłowego działania ustawień prywatności. Nawet jeśli problem dotyczy tylko użytkowników Google Workspace Labs, jest to poważna wada w testowaniu najnowszej technologii Google. Zgoda użytkowników jest kluczowa, zwłaszcza w przypadku potencjalnie wrażliwych informacji, a Google zawiodło przynajmniej jedną grupę swoich użytkowników, nie dotrzymując tej zasady.