Мы склонны считать технологию довольно нейтральной — и опрометчивой, нечувствительной и, следовательно, не облегчать человеческую тенденцию к предвзятости — но с ИИ противоположность верна. К сожалению, и, возможно, больше, чем когда -либо, Интернет полон контента, который отражает фанатизм человека, и ИИ не только берет его, но и усиливает его в контенте, который он генерирует.
Генеративный ИИ, особенно крупные потребительские модели, обучаются данным, которые отменены из всех углах Интернета -карт, видео, книги, твиты, вклад в социальные сети и многое другое.
Конечно, это, вероятно, будет тревожным колоколом с каждым лезвием, которое испытывает враждебность, которая стала практически синонимом социальных сетей в последние годы — мы говорили с главой главы контроля Шарлотты Уилсон, в последние годы Саммит кибер -лидер Узнайте больше.
Содержание
Что вы хотите увидеть
Генеративный ИИ полезен — если бы модели не чувствовали себя полезными, они не были бы популярны. Но эти модели конкурируют друг с другом, и если модель не говорит вам, что вы хотите услышать, другой может быть — до такой степени, что вы почти стали сикоферическими.
«Таким образом, это не приоритет точности, а приоритет того, что он знает, что он узнал и что он хочет видеть для вас. Поэтому это не только не только в этом отношении. [but] Есть также то, что он хочет услышать для вас », — объясняет Уилсон.
То, что модель узнала и что она «знает», естественно, избаловано человеческим уклоном. Но Chatgpt больше не просто весело Чатбот, с которым люди играют. Компании используют эти модели в рекрутинге, в своем анализе данных, в своем отделе сотрудников и в своей повседневной работе.
Уилсон утверждает, что KI не может быть оставлен на своих собственных устройствах, когда имел дело с людьми.
«Я думаю, что есть комната для кик -шкров, и есть организации, которые выполняют эту работу. Это было проверено. Вы в безопасности?
Продолжающаяся ответственность
Но что произойдет, если этого недостаточно? Я думаю об одной спине Разговор, который я провел с рабочим днем, который утверждал, что люди не обязательно являются лучшим эталоном, потому что они беспристрастны и заявлены, что ответственность и ответственность должны оставаться с людьми.
К сожалению, рабочий день теперь впереди подходить В середине обвинений в области ИИ, которые компания использует для изучения кандидатов на сотрудников, пожилые кандидаты дискриминируют — утверждение о том, что рабочий день естественно оспаривает. Но может ли дискриминация в ИИ когда -нибудь действительно избежать в таком испорченном информационном пуле?
«Я не знаю честно, потому что я не верю, что вы исправите тот факт, что мы должны предоставить данные. Я не думаю, что мы починяем Интернет», — признается Уилсон.
«Если в какой -то момент ваш источник истины — это Интернет, мы никогда не исправим его. Мы никогда не исправим его, потому что наши оппоненты накачивают это место, полное худшего ****. Так что мы никогда не исправим его».
«Вы не можете это править, что означает, что вы, вероятно, не можете править, если у вас есть галлюцинации. Вы, вероятно, на самом деле должны смотреть на это и идти, это не кажется, просто позвольте нам проверить факты и проверить вещи».
Решение тогда? Проверьте, проверьте, проверьте их и проверьте еще раз. Это, вероятно, вырастет совершенно новой отрасли для модераторов предварительной инкорпорации искусственного интеллекта, надеясь, что большая для замены снижения ИИ уровней ИИ на позиции въезда, которые в настоящее время страдает рынком труда.
Другой аппетит
Ввиду нынешнего политического климата, то есть в комнате есть неприятный слон. На самом деле есть аппетит к исправлению искажений?
Администрация Трампа отказалась от руководящих принципов DEI, и хотя многие технологические компании активны во всем мире, во многом поступает из Соединенных Штатов.
«Это стало глобальным, потому что Microsoft is Global, AWS является глобальным, Accenture является глобальным, [you could] Назовите все эти компании, которые DEI либо откатилась, либо полностью искоренила его », — подчеркивает она.
Я прошу, чтобы компании, которые работают в странах с инклюзивностью и законами против дискриминации в странах, все еще следуют правилам?
«Они не противоречат правилам, — говорит Уилсон, — они не нарушают законы, но у них нет команды людей, чей мандат только состоит в том, чтобы гарантировать, что они предлагают справедливость. Так что вы все еще не можете сказать:« Вы не можете иметь работу, потому что вы женщина, у вас не может быть работы, потому что вы черный человек. «
Это указывает на то, что не может быть никакого существенного стремления для исправления неравенства в процессе установки, и что неравенство может по -прежнему укрепляться моделями ИИ, если только всесторонние изменения не внесены в мир технологий и за его пределами.
Последний совет Уилсона для компаний должен быть нацелен на ИИ, который они предоставляют целенаправленным образом, и осознавать последствия для людей, которые их модель может оказать в их компании и дальше.
«Подумайте о том, что вы используете», — говорит она. «Будьте очень, очень ясно в том, что вы пытаетесь решить, потому что это не решает все, и на самом деле у людей все еще есть действительно хорошее место».
«Если то, что вы пытаетесь улучшить решение для человека, у вас есть проверка управления и убедитесь, что совет директоров управляется [it] Включает людей, чья единственная функция — смотреть на это с точки зрения человеческой справедливости. «
Вы также могли бы понравиться
