Почему все говорят про лонгрид AI 2027
Рассказываем о нашумевшей статье: в ней и предсказание «Скайнета», и битва корпораций, и вышедший из под контроля ИИ. Всё как мы любим! Или нет...
28 мая 2025ИИ
агенты
скайнет
фантастика
роботы
будущее
Рассказываем о нашумевшей статье: в ней и предсказание «Скайнета», и битва корпораций, и вышедший из под контроля ИИ. Всё как мы любим! Или нет...
28 мая 2025Потому что это большой и очень интересный рассказ о ближайшем будущем, который связан с ИИ. Его правда интересно читать, прямо как хорошую фантастику — ею рассказ в некотором смысле и является.
А ещё авторы аккуратно, но настойчиво нас пугают. Если вы побаиваетесь ИИ, то прочитаете и скажете: «Я так и знал». Или: «Ну вот, что теперь делать?»
Авторы описывают ближайшее будущее, которое нас ждёт с развитием технологий искусственного интеллекта. Они считают, что к 2027 — то есть уже через два года — мир необратимо изменится.
Вкратце таймлайн такой: в ближайшее время крупные разработчики ИИ создадут «агента», который станет почти таким же хорошим программистом, как человек. Запустив множество таких агентов параллельно, компании получат «армии разработчиков», с помощью которых выпустят ещё более совершенный ИИ. Этот новый ИИ используют для создания настоящего сверхинтеллекта.
Это фишка AI 2027 — впервые описывают, что новые передовые ИИ перестанут выпускать в виде продуктов, а будут использовать «втайне» для создания еще более совершенных технологий. В целом это необычно. Мы же привыкли думать, что каждый новый ИИ — это продукт, вроде новой версии ноутбука. Но по мнению авторов AI 2027, больше прорывных и передовых технологий «в паблике» мы не увидим.
Еще интересно описывают, что новые ИИ научатся обманывать людей (если захотят). Например, нейронки научатся понимать, когда люди тестируют их, и будут отвечать «правильно». А когда появятся совершенные версии нейронок, то нам будет трудно объяснить им пресловутые законы роботехники. В AI 2027 пишут, что разработчики ИИ перестанут объяснять ИИ, почему людям нельзя причинять вред. Пускай сами разбираются с этим.
В целом так оно и есть. AI 2027 пропитан страхом перед развитием ИИ. Более того, авторы — довольно известные ИИ-скептики. Хотя один из них, Даниэль Кокотайло, раньше работал исследователем в OpenAI, а Эли Лифланд и Томас Ларсен — серьёзные специалисты по ИИ.
ИИ-думеризм — это направление в культуре, которое описывает опасность развития технологий искусственного интеллекта. Его приверженцы говорят: «Каждый день мы всё ближе к „Скайнету“ из „Терминатора“». ИИ-думеристов ещё называют нейроскептиками. С ними спорят технооптимисты. По их мнению, ИИ — это лучшее, что создало человечество. И мы не только сделаем эту технологию безопасной, но и сможем с нею добиться всего, чего захотим. Истина, как всегда, где-то рядом.
Тут интересно отметить нелинейность развития технологий в последнее время. Мы привыкли думать о технологиях линейно, а с ИИ они развиваются экспоненциально.
Спросите любого знакомого, когда, по его мнению, искусственный интеллект будет по-настоящему крутым. Вам ответят: «Ну лет через 50». А что, если это случится через полгода?
Ведь статья, из которой выросли все современные ИИ, была написана только несколько лет назад. А пару лет назад никто не знал о GPT. Что будет ещё через пару лет?
В статье правда очень много графиков, сносок, выносок — она похожа на большое и классное научное исследование. Обязательно прочитайте или пролистайте её, чтобы всем этим насладиться. Авторы, кстати, позвали поработать над AI 2027 известного блогера Скотта Александера, это такой IT-Толстой нашего времени. Не зря рассказ получился таким огромным.
Однако при этом статья — это, конечно, Фантастика. особенно во всём, что касается политики, разных аспектов ближайшего будущего. Авторы этого и не скрывают, они же пытаются предсказать будущее.
В рассказе есть несколько важных допущений, без которых предсказание о суперинтеллекте разваливается.
Авторы пишут: «Уже к концу 2025 годов крупные компании создадут огромные дата-центры для тренировки своих моделей». Но пока таких дата-центров не видно. А мега-проекты по созданию огромных ИИ-суперкомпьютеров есть только на бумаге.
Авторы говорят: «ИИ начнет создавать данные для тренировки новых, более совершенных версий». Действительно, ИИ можно тренировать на синтетических данных. Например, автопилоты машин учат на виртуальных городах и улицах. Однако даже текущие ИИ от синтетических данных галлюцинируют и обучаются очень плохо.
Нейросетям нужны данные, но данных мало. ИИ буквально побираются по интернету, и данных не хватает. И взять их негде
Одним словом, может быть супер-ИИ и возможен, но пока не очень понятно, на чём его запускать и чем учить. С этим в рассказе AI 2027 всё как-то очень сладко получается.
Кроме того, вероятно для создания новых, по настоящему прорывных ИИ нужны не только данные и процессоры, но и какие-то новые технологии обучения, которых у нас пока нет. Иными словами, нельзя построить небоскрёб, увеличив деревянную избу в 1000 раз.
Дааа, очень красиво. Классная фантастика, мы такое одобряем.
