Использование голосового робота ChatGPT быстро развивается с тех пор, как он стал доступен для всех. То, что восхищает одних людей, пугает других. Теперь Бундестаг обратил на это пристальное внимание.
ChatGPT: эксперты подчеркнули риски и возможности
В среду эксперты предупредили Бундестаг о рисках при работе с голосовыми роботами, такими как ChatGPT, но в то же время подчеркнули возможности, которые открывает эта технология.
В конце слушаний, длившихся несколько часов в комитете по образованию и исследованиям, председатель комитета Кай Геринг (Зеленые) высказался в пользу государственного регулирования. «Теперь наша задача будет заключаться в том, чтобы использовать наш естественный интеллект как законодателей для создания защитных ограждений для искусственного интеллекта».
«Джинн выпущен из бутылки», – сказал Дирк Энглинг из компьютерного клуба «Хаос» на слушаниях в среду. Он добавил, что теперь необходимо как-то примириться с тем, как такие модели влияют на людей и общество в больших масштабах. Дорис Везельс, эксперт по бизнес-информатике из Киля, говорила о «сбое», который потрясет систему образования до основания. Экспертная группа назвала возможности и риски.
Возможные риски и опасности:
- Чат-роботы, общающиеся в человекоподобной манере, используются для политического манипулирования людьми.
- Ускорится распространение ложной информации, нарушатся фундаментальные информационные и коммуникационные процессы в демократии.
- Людей держат в неведении относительно того, что они общаются с машиной, например, когда они обращаются в чат горячей линии с проблемой.
- В образовании разрыв углубляется: лучшие ученики и студенты учатся грамотно использовать технологии, в то время как другие остаются все дальше позади. Учителя тоже могут не поспевать за стремительным развитием и не уметь прививать разумный, но критический подход к технологиям.
- Прежние формы экзаменов больше не работают, поскольку неясно, какая деталь была создана машиной.
Потенциальные возможности:
- ChatGPT и подобные модели станут «партнером по обучению» в качестве «инструмента».
- Нехватка квалифицированных работников смягчается тем, что ИИ и языковые модели возьмут на себя рутинные задачи.
- Процессы ускоряются. Появляются новые профессии.
- Улучшается диагностика и персонализированное лечение в медицине.
- Улучшается инклюзивность за счет устранения языковых барьеров, облегчения доступа к информации и быстрого перевода на простой язык.
На слушаниях Немецкая ассоциация ИИ призвала к «ориентированному на возможности взгляду» на технологию и выступила против слишком жесткого регулирования ввиду возможных конкурентных недостатков по сравнению с другими странами. Компьютерный клуб «Хаос» высказался за запрет на скрытое использование голосовых роботов. Должно быть четко обозначено, когда они используются. Эксперт по бизнес-информатике Везельс срочно призвал к «наступлению на квалификацию ИИ для учителей».
