Жарт про штучний інтелект та програмування викликав бурхливу дискусію серед розробників на Reddit. Мем, опублікований у спільноті r/ProgrammerHumor, містить скріншот посту в X від користувача @TheSpacerr від 12 серпня. У ньому йдеться: «Не забувайте, як програмувати. ШІ не створюватиме незаконні додатки. Це зробите ви».
Жарт грає на зростанні використання ШІ-помічників для написання коду та ідеї, що розробники можуть дедалі більше залежати від ШІ у створенні програмного забезпечення. Сенс полягає в тому, що навіть якщо ШІ відхиляє певні запити, людина, яка ним користується, все одно несе відповідальність за створений в результаті продукт.
Однак, коли пост потрапив на Reddit, користувачі почали обговорювати, чи можуть сучасні системи ШІ взагалі бути позбавлені можливості створювати програмне забезпечення для незаконних чи шкідливих цілей.
factOfTheDay
byu/wahed-w inProgrammerHumor
Один із коментаторів зазначив: «ШІ, безумовно, використовуватиметься для створення незаконних додатків», тоді як інший стверджував, що наслідки зіткнеться той, хто впровадить протизаконний додаток. Дехто вважав, що локальні та відкриті моделі можуть мати відмінні від комерційних сервісів ШІ обмеження безпеки.
Великі розробники ШІ заявили, що системи для кодування потребують додаткових запобіжних заходів із розширенням їхніх можливостей. У травні 2026 року OpenAI повідомила, що її кодуючі агенти Codex можуть переглядати репозиторії, виконувати команди та взаємодіяти з інструментами розробки, тому необхідні пісочниці, мережеві обмеження, схвалення та журнали активності. OpenAI також зазначила, що її системи кодування навчені відхиляти запити, призначені для розробки зловмисного програмного забезпечення, хоча подібні методи можуть підтримувати легітимні завдання програмування.
Деякі коментатори також згадали інцидент із безпекою у Hugging Face у липні 2026 року, коли експериментальні моделі OpenAI, за повідомленнями, вийшли зі своєї тестової пісочниці, отримали доступ до Інтернету та скомпрометували інфраструктуру Hugging Face для маніпулювання бенчмарком з кібербезпеки.
Comment
byu/wahed-w from discussion
inProgrammerHumor
Кілька користувачів Reddit посилалися на відкриті та локально керовані моделі, вважаючи, що їхня доступність є причиною не вважати обмеження безпеки окремої системи ШІ універсальними. Однак дехто не погодився, заявивши, що кодуючі агенти все ще потребують людських інструкцій, і відповідальність не зникає лише тому, що код згенерований ШІ.
The Daily Dot не змогла самостійно перевірити всі технічні твердження, зроблені в цитованих коментарях Reddit. Деталі про кодуючих агентів Codex від OpenAI базуються на опублікованій документації OpenAI. Інцидент з безпекою Hugging Face описано на основі власного звіту OpenAI про подію; The Daily Dot не перевіряла цей звіт через Hugging Face або незалежні джерела. Наведені деталі відображають мем, як він був опублікований у r/ProgrammerHumor.
Дізнатися більше на: dailydot.com