Перейти к содержимому

Фотография

Код без контроля. Программисты теряют управление

программирование безопасность openclaw технический долг

В этой теме нет ответов
#1 Обществовед
Обществовед

    Свой человек

  • Администрация
  • 10 637 сообщений
  • Пол:Мужчина

Отправлено Сегодня, 19:27

Разработчики, создавшие фреймворк OpenClaw, бьют тревогу из-за лавины опасного кода, порождённого нейросетями. Они называют это явление «vibe slop» — поток некачественных программ, который заполняет всю IT-сферу. Речь идёт не просто о плохом софте, а о реальных рисках для пользователей и бизнеса. The Wall Street Journal опубликовала их предупреждение в пятницу, и это совпало с тем, что написание кода через ИИ стало рутиной для всей отрасли.

 

img_6a13512ca5b84_12766.jpg

 

Когда описание заменяет проектирование

 

Термин «вайб-слоп» родился из двух понятий. Первое — «вайб-кодинг», придуманное Андреем Карпатым в прошлом году. Так он назвал создание программ простым описанием задачи в чат-боте. Второе — «AI-слоп», то есть низкосортный контент от машин, который уже наводнил интернет. Эксперты утверждают: разработчики всё чаще заменяют полноценное проектирование, тестирование и обеспечение безопасности быстрым промптом к нейросети. Результат предсказуем — код работает, но непредсказуем.

 

OpenClaw под прицелом безопасности

 

Этот открытый фреймворк для ИИ-агентов — бывший MoltBot и Clawdbot — стал центром бурной дискуссии о безопасности. Инструмент даёт нейросетям полный доступ к системе: выполнять команды, менять файлы, работать с внешними сервисами. Исследователи нашли свыше 140 тысяч копий OpenClaw, открытых для всего интернета. Многие из них сливают API-ключи и учётные данные. С января зафиксировано несколько критических уязвимостей, а некоторые компании уже запретили его использование внутри себя.

 

Создатель фреймворка Питер Штайнбергер ещё в феврале называл слово «вайб-кодинг» оскорблением. Но теперь инженеры волнуются о другом: что будет, когда неподготовленные люди начнут использовать ИИ для кода, который они не способны ни проверить, ни поддерживать. Последствия могут быть катастрофическими.

 

Мусор перекинулся на науку

 

Проблема давно вышла за границы программирования. 21 мая технический директор одного ИИ-стартапа заявил о нашествии «гипотезного мусора» в академических исследованиях. Те же процессы, что портят код, теперь угрожают честности науки. Forbes в апреле подсчитал: с появлением ChatGPT количество заявок в ведущий журнал по менеджменту выросло на 42%. Рукописи, написанные с помощью ИИ, оказались труднее для чтения, полны жаргона и гораздо чаще получают отказ. В феврале Nature сообщил, что репозитории препринтов и конференции захлебываются от полностью сгенерированных статей с выдуманными фактами.

 

И вот главное: предупреждение о «вайб-мусоре» звучит на фоне гигантского «технического долга» в старом софте. Его оценивают в 1,52 триллиона долларов. Этот долг уже давит на бюджеты компаний. А инструменты ИИ с бешеной скоростью создают новые слои кода, который никто не понимает. К чему это приведёт — большой вопрос.

 

Что вы думаете о таком подходе к программированию? Стоит ли доверять нейросетям написание кода? Делитесь мнением в комментариях.
  • 0



Ответить



  

Количество пользователей, читающих эту тему: 1

0 пользователей, 1 гостей, 0 скрытых пользователей