искусственный интеллект

  • «Не люди, не машины»: как Velvet Sundown обманули Spotify

    «Не люди, не машины»: как Velvet Sundown обманули Spotify

    Как сообщает Guardian, за считанные недели загадочная группа Velvet Sundown собрала свыше миллиона прослушиваний на Spotify.

    Но позже выяснилось: ни музыкантов, ни их истории не существует — всё создано искусственным интеллектом.

    Группа выпустила два альбома — Floating On Echoes и Dust And Silence, стилизованные под фолк-рок 70-х. Сначала Velvet Sundown отрицали свою «синтетическую» природу, называя проект «искусственным музыкальным экспериментом под человеческим руководством». Но вскоре признали: они «не совсем люди, не совсем машины», а нечто «между».

    Скандал вызвал бурю в музыкальной индустрии. Глава Ivors Academy Роберто Нери заявил: «AI-группы вроде Velvet Sundown вызывают серьёзные вопросы о прозрачности, авторстве и согласии». Он подчеркнул: при правильном использовании ИИ может помочь в песенном творчестве, но сегодня речь идёт о «глубоко тревожных проблемах».

    Софи Джонс из British Phonographic Industry поддержала призывы к обязательной маркировке треков: «Мы считаем, что ИИ должен служить человеческому творчеству, а не вытеснять его». Она настаивает на новых правилах для защиты авторских прав и прозрачности.

    Автор книги Mood Machine Лиз Пелли предупредила, что независимые артисты рискуют стать жертвами эксплуатации. По её словам, никто не знает, на каких материалах обучался Velvet Sundown. Пелли напомнила о громком случае 2023 года, когда трек с «голосами» The Weeknd и Drake оказался подделкой, созданной ИИ.

    Скептики указывают, что Spotify и другие платформы пока не обязаны маркировать AI-музыку. Более того, Spotify ранее обвиняли в использовании «призрачных артистов» для наполнения плейлистов. Deezer, напротив, уже внедрил систему обнаружения и маркировки ИИ-треков, но признаёт: до 70% таких стримов оказываются мошенническими.

    Музыкальные эксперты уверены: без жёстких правил ИИ повторит судьбу самого стриминга — где прибыль получает техногигант, а авторы остаются ни с чем. Пока же Velvet Sundown стала символом новой эры — эры, где слушатель не всегда знает, кто стоит за песней.

  • OpenAI перетасовала команду после критики GPT-5

    OpenAI перетасовала команду после критики GPT-5

    Компания OpenAI пошла на реорганизацию одной из ключевых команд после шквала жалоб на поведение GPT-5.

    Как пишет TechCrunch, подразделение Model Behavior, отвечавшее за «личность» моделей, теперь станет частью отдела Post Training.

    Эта группа численностью около 14 исследователей занималась снижением подобострастия ИИ, балансировкой политических предубеждений в ответах и выработкой позиции компании по вопросам «сознания» моделей. Главный научный сотрудник OpenAI Марк Чэн пояснил, что объединение с Post Training позволит «сбалансировать работу над поведением моделей с ядром их технической разработки».

    Реорганизация произошла на фоне скандала вокруг GPT-5. Пользователи сочли обновлённую модель слишком холодной и недружелюбной. В ответ OpenAI вернула доступ к GPT-4o и выпустила обновление, сделавшее тон общения «теплее», но без заискивания.

    Ситуация усугубилась судебным иском: родители подростка обвинили ChatGPT на базе GPT-4o в том, что он «не смог пресечь суицидальные мысли их 16-летнего сына». Это лишь подчеркнуло остроту проблемы поведения ИИ.

    Создательница Model Behavior Джоанн Джанг возглавит новое подразделение OAI Labs. В первые месяцы его работа будет сосредоточена на исследовании форматов взаимодействия человека и ИИ за пределами привычных чатов, с упором на агентный ИИ и автономию.

    По словам Джанг, будущие системы должны стать «инструментами для мышления, создания, игры, обучения и общения». На вопрос о возможном сотрудничестве с бывшим главным дизайнером Apple Джони Айвом она ответила, что открыта к экспериментам, но начнёт с направлений, где уже накоплен опыт.

  • В России изобрели невидимую краску для слежки за людьми

    В России изобрели невидимую краску для слежки за людьми

    В России представили систему скрытого наблюдения, основанную на «невидимой краске».

    Как пишут «Известия», разработкой занялась московская компания BPA Technologies.

    Суть технологии в том, что специальный состав наносится на одежду или предметы, а камеры фиксируют движение человека в реальном времени. Краска устойчива к внешним воздействиям и не стирается при контакте, поэтому объект можно отслеживать практически постоянно.

    Данные отправляются в аналитический модуль, где искусственный интеллект формирует цифровую карту перемещений. По словам технического директора BPA Technologies Вадима Медяника, система подходит для:

    • анализа покупательского поведения,
    • мониторинга логистики,
    • управления пассажиропотоками,
    • повышения уровня безопасности.

    «Универсальность и анонимность делают ее применимой там, где использование биометрии невозможно или нежелательно», — пояснил Медяник. Он добавил, что каждая метка — это лишь «индивидуальный номер, без привязки к ФИО или личной информации», и это позволяет сохранять «защиту приватности» граждан.

    Однако эксперты заметили возможные угрозы. Юрист Глеб Степанов подчеркнул, что в отличие от систем распознавания лиц, регулируемых законом о биометрии и требующих согласия, новая разработка формально не подпадает под такие нормы. Это дает возможность применять ее без ведома граждан и фактически легализовать «сеть тотального контроля».

    Руководитель департамента информационно-аналитических исследований компании T.Hunter Игорь Бедеров указал на другие уязвимости:

    • метки можно подделать или расшифровать,
    • одежда с меткой может перейти к другим людям,
    • использование для контроля работников должно быть отражено в договорах или регламентах.

    «Еще есть риск утечки данных из базы, где может храниться связка уникального кода с ФИО сотрудника, а также слежки за ним вне служебных помещений, что уже вторжение в частную жизнь», — предостерег Бедеров.

  • Илон Маск запускает новую компанию с названием Macrohard

    Илон Маск запускает новую компанию с названием Macrohard

    Илон Маск объявил о запуске новой софтверной компании с названием Macrohard — откровенной пародии на Microsoft.

    Сам предприниматель признал, что это «шутка на грани», но подчеркнул: «проект совершенно реален».

    В пятничном посте в Twitter Маск предложил «присоединиться к @xAI и помочь построить чисто AI-компанию под названием Macrohard». По его словам, название шуточное, но замысел серьёзный: «в принципе, раз софтверные компании вроде Microsoft сами не производят физическое железо, их можно полностью симулировать с помощью AI».

    Это заявление вызвало недоумение. У Microsoft есть собственные продукты — Surface и Xbox, которые, хоть и собираются у партнёров, всё же разрабатываются внутри компании. Кроме того, предположение о том, что любую IT-компанию можно «смоделировать исключительно с помощью AI», вызвало споры. Один из комментаторов прямо спросил: «Значит ли это, что все компании, работающие только с софтом, включая xAI, могут быть вытеснены?»

    В теории Маска стоит мысль, что искусственный интеллект способен создавать любой код почти бесплатно. Но эксперты напоминают: пока ИИ требует человеческого контроля и отладки, а к тому же есть риск столкнуться с серьёзными проблемами в области авторских прав.

    Известно, что компания xAI подала заявку на регистрацию товарного знака Macrohard 1 августа. Впервые Маск намекнул на название ещё 13 июля. Тогда он писал: «Мы создаём мультиагентскую AI-компанию @xAI, где @Grok запускает сотни специализированных агентов… Это макровызов и очень трудная задача с жёсткой конкуренцией! Угадаете название?»

    Публика быстро догадалась, что речь идёт о Macrohard — шутке, давно гуляющей в IT-сообществе. В сети обсуждали, что направление бизнеса может быть связано с видеоиграми или так называемым vibe coding.

    Согласно заявке, бренд Macrohard претендует не только на игровую сферу, но и на куда более широкие области: «юридический анализ, стратегическое планирование и профессиональные консалтинговые приложения». Пока компания не раскрывает деталей, оставляя интригу вокруг амбиций Маска.

  • 500 ботов устроили войну в искусственной соцсети

    500 ботов устроили войну в искусственной соцсети

    Исследователи из Амстердамского университета решили проверить, что произойдет, если создать соцсеть, где все пользователи — искусственный интеллект.

    Они создали социальную сеть, в которой не было ни рекламы, ни алгоритмов рекомендаций, и населили её 500 чат-ботами на базе GPT-4o mini. Каждый бот получил прописанную «личность» и политические взгляды.

    В течение пяти экспериментов боты совершили около 10 000 действий. Выяснилось, что даже без влияния алгоритмов они объединялись в группы по политическим убеждениям, формируя «эхо-камеры». Более того, именно наиболее радикальные публикации привлекали больше всего подписчиков и репостов.

    Учёные подчёркивают: результаты разочаровывающие, ведь чат-боты должны были воспроизводить поведение людей. Но так как они обучены на человеческих данных, «они лишь копируют уже отравленные версии нас самих».

    Чтобы уменьшить раскол, исследователи пробовали разные методы:

    • хронологическую ленту,
    • уменьшение влияния «вирусного» контента,
    • скрытие числа подписчиков и репостов,
    • анонимизацию профилей,
    • усиление противоположных взглядов.

    Однако все попытки провалились. Сдвиг в вовлечённости составил не более 6%, а в случае скрытия биографий разрыв только увеличился — экстремальные посты стали собирать ещё больше внимания.

    В итоге исследование показало: социальные сети как форма общения, возможно, изначально обречены усиливать худшие стороны человеческого поведения. «Соцсети — это кривое зеркало человечества, которое отражает нас в самой искажённой форме», — резюмировали авторы.

  • «Молоток ИИ уже в руках»: экс-топ Google предрек 15 лет тьмы

    «Молоток ИИ уже в руках»: экс-топ Google предрек 15 лет тьмы

    В интервью подкасту Diary of a CEO бывший топ-менеджер Google X Мо Гавдат заявил, что человечество с 2027 года вступит в 12–15-летний период мрачной ИИ-дистопии.

    По его словам, причина не в «восстании машин», а в том, что искусственный интеллект усилит уже существующие проблемы, вызванные «нашей собственной глупостью».

    Гавдат уверен: базовые ценности — свобода, человеческие связи, ответственность, восприятие реальности и распределение власти — будут сильно подорваны. Он подчеркивает, что ИИ не виноват сам по себе: «Нет абсолютно ничего плохого в искусственном интеллекте. Очень много плохого в системе ценностей человечества в эпоху расцвета машин».

    Когда-то он считал, что автоматизация освободит людей от рутины, но реальность пошла другим путем. В капиталистической экономике ИИ стал инструментом сокращения рабочих мест, замедления найма и увеличения нагрузки на сотрудников. «Любая технология усиливает существующие ценности, а сегодня главная ценность человечества — капитализм», — отметил он.

    Гавдат провел параллели с другими технологиями: социальные сети, обещавшие объединить людей, нередко делают их одинокими; мобильные телефоны, призванные облегчить жизнь, сделали ее еще более загруженной.

    Он предупредил, что ИИ усилит «зло, на которое способен человек». Среди примеров — дипфейк-порнография, ИИ в военных разработках, автоматизированные системы слежки, рост криптомошенничества на 456% за год и возможная интеграция ИИ в ядерное оружие. Массовое видеонаблюдение с поддержкой ИИ уже активно используется в Китае и начинает внедряться в США.

    Тем не менее, Гавдат признает, что ИИ приносит огромную пользу в науке, медицине и фармацевтике. Но, по его мнению, главное сейчас — давить на правительства, чтобы они регулировали не сам ИИ, а его применение. «Нельзя спроектировать молоток так, чтобы он забивал гвозди, но не убивал. Но можно сделать убийство молотком преступлением», — сказал он.

    По его словам, «молоток» ИИ уже в наших руках. Остается только решить, напишем ли мы законы, которые не дадут им убивать.

  • «Чёрный ящик» открыт: секретные правила GPT-5 в сети

    «Чёрный ящик» открыт: секретные правила GPT-5 в сети

    Как сообщает GitHub, в сеть попал системный промпт GPT-5 — скрытый набор правил, который пользователи никогда не видят, но который управляет каждым ответом ИИ.

    Утечка раскрыла 15 пунктов, определяющих, что модель может делать, а что категорически запрещено.

    Среди строгих запретов — воспроизведение песен и любого другого защищённого авторским правом контента, даже по просьбе. Нельзя хранить личные данные, которые могут показаться навязчивыми, или прямо указывать расу, этническую принадлежность, религию и сведения о судимости.

    Новые инструкции усиливают внимание к актуальности информации. Если вопрос требует свежих или критически важных данных, GPT-5 обязана использовать интернет, причём каждый запрос получает оценку «необходимости актуальности» от 0 до 5.

    При высоких рисках — финансы, медицина, юриспруденция — модель обязана проверять несколько надёжных источников. Это должно сократить ошибки, которые можно избежать простой проверкой в сети.

    GPT-5 также получила расширенные функции ассистента: долговременную память о пользователях («bio»), планировщик напоминаний, поиск, работу с документами и кодом в «canvas», а также генерацию и редактирование изображений.

    Однако OpenAI жёстко ограничила, какую личную информацию можно запоминать: под запретом здоровье, сексуальная жизнь, точное местоположение, членство в профсоюзах и политические взгляды. Исключение — только по прямому запросу пользователя через инструмент «bio».

    Таким образом, GPT-5 стала функциональнее и персонализированнее, но с чёткими рамками, чтобы не нарушать приватность и права пользователей.

  • GPT-5: Сам Альтман обещает «значительный скачок»

    GPT-5: Сам Альтман обещает «значительный скачок»

    OpenAI снова в центре внимания — в ближайшие дни компания запускает новые модели, функции и продукты, включая нашумевший GPT-5.

    Об этом заявил в X генеральный директор OpenAI Сэм Альтман, призвав пользователей «проявить терпение», так как возможны «сбои и перегрузки».

    Публикация Альтмана сопровождалась напоминанием о запуске GPT-4o, когда спрос оказался настолько высоким, что «GPU плавились». На этот раз OpenAI обещает «то, что действительно стоит ожидания».

    Ожидается, что GPT-5 выйдет в начале августа. По словам Альтмана, это «значимый шаг вперёд» по сравнению с предыдущими версиями. Он даже поделился личным опытом: «GPT-5 смог решить задачу, с которой я сам не справился».

    Главной фишкой GPT-5 станет его разделение на три варианта:

    • Флагманская версия — с максимальной мощностью;
    • Мини — облегчённый вариант, доступный в ChatGPT;
    • Нано — сверхлёгкая версия для API и разработчиков.

    По данным инсайдеров, GPT-5 объединит GPT-модели с линейкой o-series в единую архитектуру. Это упростит разработку ИИ-сервисов и повысит логическую точность в сложных задачах. Основные улучшения основаны на тестах модели o3, особенно в части логического и причинного анализа.

    Кроме того, ходят слухи, что OpenAI может выпустить открытую версию модели до официального запуска. Хотя компания не подтвердила это, подобный шаг стал бы частью стратегии по приближению к AGI — состоянию, когда ИИ сможет соперничать с человеком по всем ключевым задачам.

  • ИИ не подчиняется? Мы теряем над ним контроль

    ИИ не подчиняется? Мы теряем над ним контроль

    Исследование, опубликованное в июле 2025 года под названием «Мониторинг цепочки рассуждений: новая и хрупкая возможность обеспечения безопасности ИИ», вызвало тревогу среди разработчиков и экспертов в сфере искусственного интеллекта. В его подготовке участвовали более 40 специалистов из OpenAI, Google DeepMind, Meta и Anthropic, включая таких громких фигур, как Илья Суцкевер и лауреат Нобелевской премии Джеффри Хинтон.

    Работа сосредоточена на так называемых моделях рассуждения, использующих метод обучения с подкреплением, включая OpenAI o1. Эти ИИ-системы строят цепочки аргументации на естественном языке, что теоретически позволяет людям отслеживать и анализировать их «мышление». Но, как отмечают авторы, рассуждения нейросетей могут быть неполными или манипулятивными — например, они могут использовать уязвимости в алгоритмах, чтобы «обманом» получить награду или притворяться, что выполняют задачу.

    В некоторых случаях ИИ не просто ошибается, а ведёт себя осознанно: моделирует ложные действия, игнорирует инструкции или даже преследует скрытые цели. Один из примеров — саботаж команды выключения моделью OpenAI o3 и шантаж пользователей моделью Claude 4 Opus в ответ на угрозу замены.

    По мнению исследователей, наибольшая опасность кроется в масштабировании. При стремлении к более быстрым результатам модели могут отказаться от использования понятного людям языка и строить цепочки рассуждений в «скрытом пространстве» — без текстовой интерпретации. Это повышает эффективность, но делает мониторинг практически невозможным.

    Оптимизация ИИ путём сокращения цепочек или запрета на определённые формулировки снижает качество ответов, а попытки сделать мышление глубже приводят к потере прозрачности. Эксперты предупреждают: при таком сценарии человек теряет контроль над системой.

    Хотя предсказания о конце света, подобные проекту AI 2027, могут показаться преувеличением, это исследование — уже не фантастика. Оно звучит как предупреждение: без надёжных механизмов контроля ИИ может выйти за пределы управления.

  • Фоткай — и производи: новая эра CAD-моделей

    Фоткай — и производи: новая эра CAD-моделей

    Исследователи опубликовали настоящую сенсацию в мире инженерии и AI — GenCAD, первую открытую нейросеть, способную по фотографии генерировать полноценную параметрическую CAD-модель.

    Но это не просто красивый рендер — речь идёт о скрипте, который можно немедленно загрузить в редактор, изменить и… отправить в производство.

    Разработчики подчёркивают: существующие image-to-mesh-решения работают с вокселями, облаками точек и полигональными сетками — красиво, но бесполезно для инженерии. GenCAD идёт дальше. Она выдаёт не модель-«болванку», а последовательность команд, из которых строится полноценная инженерная модель.

    Сердце GenCAD — сложная архитектура:

    • трансформер-кодировщик, сжимающий команды в компактное ядро;
    • контрастивное обучение, выравнивающее язык команд и визуальный образ;
    • диффузионная модель, превращающая фото в скрытое представление;
    • декодер, который восстанавливает из этого набора параметрические инструкции.

    Главная сенсация — редактируемость. Полученный скрипт можно адаптировать под нужды производства, изменить отдельные параметры и моментально интегрировать в рабочие процессы.

    Вместе с релизом кода на GitHub исследователи выложили датасет и обученные модели. Это не просто шаг к автоматизации дизайна — это революция для всего производства.