Google AI Перетворив Міф про Камери Спостереження Flock Safety на “Технічний Факт”
Штучний інтелект від Google непомітно перетворив вигадку про камери спостереження Flock Safety на “технічний факт”. Алгоритм AI Overview у пошуковій системі стверджував, що кожна така автономна камера, призначена для розпізнавання номерних знаків автомобілів, містить від 1 до 5 грамів золота, а також від 0,9 до 10,4 кг міді. Таким чином, лише вартість золота в одній камері оцінювалася приблизно у $650 (приблизно 26 000 ₴ за поточним курсом). ШІ елементарно не перевірив, що маса самої камери становить лише 1,36 кг, і продовжив поширювати неправдиву інформацію, що спровокувало випадки вандалізму щодо цих пристроїв.
Джерело зображення: Flock
Ця історія розпочалася зі скандалів, пов’язаних із системою спостереження Flock Safety. Повідомлялося про зловживання, коли окремі співробітники правоохоронних органів використовували систему для стеження з особистих мотивів. Зрештою, небагатьом подобається відчувати себе під постійним наглядом. На цьому тлі виник фейк, що заохочував знищення камер компанії — твердження про високий вміст у них дорогоцінних металів та навіть міді. Це не перший і не останній фейк в інтернеті. Але цього разу у нас був ШІ, який без перевірки підхопив неправдиву інформацію і почав самостійно її поширювати.
Реальність вмісту дорогоцінних металів
Насправді золото в такій електроніці справді присутнє, але лише у слідових кількостях — головним чином у покриттях контактів, роз’ємів та окремих елементів друкованих плат. Те саме стосується і міді: вона використовується у провідниках та доріжках друкованих плат, однак її кількість мізерно мала. Після публікації цієї історії Google змінив AI Overview: тепер пошук попереджає, що розповіді про грами вилученого золота та кілограми міді — це чийсь жарт і результат “галюцинацій” ШІ, а реальний вміст дорогоцінних металів співмірний з тим, що характерно для звичайної компактної електроніки — мікрограми або близько того.
Історія з “золотими камерами” стала черговим яскравим прикладом повторення та поширення генеративним ШІ недостовірних фактів. Особливо засмучує те, що платформа не виконала елементарну перевірку їхньої правдоподібності — заявлена маса однієї лише міді багаторазово перевищувала масу всього пристрою. Скільки камер постраждало внаслідок цього, історія замовчує. Втім, люди добре справляються з поширенням фейків і без ШІ. У 2020 році вишки стільникового зв’язку палили без будь-яких підказок з його боку. Але ж когось потрібно призначити винним? Не себе ж!
Порада від Soft Portal:
Ця новина наочно демонструє, як навіть найсучасніші технології штучного інтелекту можуть помилятися та поширювати дезінформацію. Важливо завжди критично ставитися до інформації, отриманої з будь-яких джерел, особливо з автоматизованих систем, і проводити власну перевірку фактів, перш ніж робити висновки чи діяти на основі отриманих даних.