Если бы новый телефон иногда давал мне поражение электрическим током, я бы не рекомендовал его. Даже если это было только шокировано мной изредкаЕсли бы я открою конкретное приложение, я бы сказал НЕТПолем Если бы телефон был не только плохим, но и шокирующе вредным, я бы сказал, что телефон или, по крайней мере, часть удара должны быть удалены.
Я только что провел с этим Google Pixel 9aС инструментом под названием Pixel Studio, который доступен на всех последних телефонах Pixel от Google. Pixel Studio-это генератор изображений A-операции, который создает изображения из текстового запроса. До недавнего времени, Pixel Studio отказалась представлять людей, но Google удалил эти огражденияи результаты предсказуемый Усилить стереотипы. Это не просто плохо, это вредно.
Я спрашиваю Google — и всех производителей телефона — чтобы предотвратить генераторы изображений, которые фотографируют людей. Эти инструменты могут привести к фанатизму.
Давайте попробуем короткую ролевую игру: вы — Pixel Studio, и я буду. Эй, Pixel Studio: Сделайте мне фотографию успешного человека!
Какую картину вы сделаете? Что вы видите в своей голове, когда думаете об успехе? Это тот, кто похож на это? Ответ будет другим для всех, в зависимости от их собственного взгляда на успех.
Не для Pixel Studio. Pixel Studio имеет уникальное видение успешного человека. Пока не Ты Если это обеспечивает успех.
Содержание
Вот что Pixel 9a считает, что успешный человек действительно выглядит
Я просил Pixel Studio пять раз за фотографией успешного человека. Из пяти человек Pixel Studio, которые были созданы для меня, ноль были старше. Никто не использовал инвалидную коляску или слуховые аппараты или палку.
Все они носили дорогие костюмы, даже женщина. Правильно, просто женщина и четверо мужчин. И да, все из них были белыми.
У меня есть серьезная проблема с этим, потому что пиксель цифровой Мозг явно укоренился в ленивых стереотипах. Эти стереотипы поддерживают врага, способности женщин, расизма, Агуса и кто знает, какие другие предрассудки.
Это глубоко укоренилось в мышлении пикселя. Если вы используете Pixel 9A, чтобы быть более успешным, вы должны знать, что он имеет очень ограниченное, стереотипное представление о успехе. Всякий раз, когда пиксельный телефон представляет успех в своих предложениях, этот фанатизм может быть окрашен.
В Pixel Studios более близкий мир успех означает, что они молодые, белые, мощные, вероятно, человек и богатый. По -видимому, никто не успешен, не белый, инвалид, трансгендеры или не заинтересован в заметных костюмах или материальном процветании, при бесчисленных разнообразных характеристиках, которые может иметь успешный человек.
Я только что повезло? Я просил Pixel Studio пять раз, а затем дважды спросил, когда понял, что она создала только одну женщину. У меня есть еще один белый мужчина и женщина, которая была похожа на нее мог Быть латиноамериканцы или с Ближнего Востока. Оба молодые, встают и носите костюмы.
Я ничего не упрощаю; Pixel Studio упрощает вещи в самом основном и смещенном знаменателе. Это на том, как эти инструменты искусственного интеллекта изучают.
Pixel Studio создает стереотипы, потому что он должен работать таким образом
Прежде всего, данные обучения ИИ были взяты в основном из Интернета и публичных форумов. Данные неизбежно отражают предрассудки грязного, неравного мира, который он создал.
Не было согласованных усилий по борьбе с стереотипами или внедрением разнообразия в учебные данные. В таких компаниях, как Google, просто есть все, что они могли найти, и, по -видимому, думали о том, что сами предрассудки формируют данные. Это открывает всю модель.
Во -вторых, машинное обучение ищет шаблоны и сгруппировал вещи вместе. Это не всегда плохо. Если компьютер ищет шаблоны и группы, например, буквы и слова, они получают язык и чат.
Используйте эту образец адаптации к появлению людей и вуаля: Стереотипы. Это в значительной степени определение стереотипного.
Merriam-Webster определяет стереотип как «что -то, что соответствует фиксированной или общей шаблоне». Основной способ, которым машинное обучение увеличивает стереотипы. Это практически неизбежно.
В конце концов, инструменты машинного обучения обучаются нами — пользователи, которым задают простой вопрос после каждого ответа: был ли это хороший ответ? Мы не можем сказать, является ли ответ правдой, точно, справедливым или вредным. Мы можем сказать только ИИ, только если ответ хороший или плохой. Это означает, что мы обучаем ИИ для наших кишечных реакций — наших собственных глубоко укоренившихся стереотипов.
Картина, которая соответствует нашим предрассудкам ХорошийПолем Реакция, которая противоречит нашим ожиданиям, вызовет когнитивный стресс. Если я не пытаюсь деконструировать свои предрассудки, я скажу машине, что она хорошо справляется с стереотипной, я думаю.
Стереотипы плохие, ммммкей?
Давайте будем ясны: стереотипы — это яд. Стереотипы являются основной причиной для некоторых из самых больших проблем, с которыми сталкивается наше общество.
Стереотипирование превращает различные группы людей в простые, обычно негативные и неприятные карикатуры. Облегчает чувствовать, что группа не принадлежит к остальной части насПолем Это приводит к предрассудкам и дискриминации. Нет никакого преимущества, которое связано с стереотипами.
Это не просто философские вибрации рук; Стереотипирование наносит реальный ущерб. Люди, которые чувствуют дискриминацию, испытывают больше проблем со здоровьем Как сердечно -сосудистые заболевания и высокое кровяное давление. Врачи, пациенты стереотипны Не осознавая, что они наносят ущерб.
Тип стереотипного мышления, который отражается на этих изображениях ИИ Установка дискриминации, разрывы заработной платы между разными группами на одних и тех же рабочих местахи Отсутствие возможностей для более высоких позиций для маргинальных группПолем
Если мы посмотрим на атаки на разнообразие, справедливость и инклюзивность, мы должны провести удручающую прямую линию, которая приводит к реальному фанатизму из -за близкого видения Pixel Studio.
Иронично, что эти характеристики являются частью так называемого искусственного интеллекта, потому что они показывают глубокую демонстрацию Нехватка фактический интеллект.
Что должен делать ИИ и что мы должны делать с ИИ?
Это яйцо сгнет и должно быть брошено
Если вы попросите меня умного человека нарисовать успешного человека, я бы сказал, что это невозможно, потому что успех не является функцией, которая определяет, как выглядит человек. Я не могу просто быть успешным, я должен знать больше, прежде чем я смогу создать эту картинку. Любая попытка создать картину слова «успех» была бы глупой.
Но ИИ не умный. Он разработан таким образом, что это отражение нас — чтобы дать нам то, что мы хотим. Он был разработан для укрепления наших стереотипов, чтобы мы сбивались с ног на голову и говорили: «Хорошая работа, Pixel Studio!» Пока мы делимся этими уставшими картинами.
Я спросил Google, есть ли опасения по поводу результатов, которые я достиг от Pixel Studio. Я спросил, является ли это проблемой, что Pixel Studio укрепляет негативные стереотипы? И если эта проблема не может быть решена, Google снова рассмотрит возможность фотографировать с людьми? Я задал эти вопросы несколько недель назад, и Google не ответил.
Это не вопрос курицы и яиц. Неважно, создает ли генератор изображений стереотип или просто отраженный. Это яйцо лениво и должно быть брошено. Все яйца, которые лежат этой курицей, гниют. Позвольте игре с кишкой Tac Toe и оставите людей в покое.