про Добро і Зло
- 16.05.24, 19:40
Ця замітка, на яку я натрапила випадково на іншому ресурсі, якнайкращим чином пояснює причину й наслідки Добра і Зла, можливості прогресу і його використання....
І не потрібно нічого більше вигадувати....
О невыносимой лёгкости разрушения жизни, или началось!
В конце прошлого года, прям перед новым, я написал прогноз о том, как будет развиваться искусственный интеллект в 2024 году. Сейчас конец апреля - то есть прошло четыре месяца, и из 10 моих прогнозов большая часть уже сбылась. То есть это всё происходит быстрее, чем я ожидал - а человека более верящего в быстрое развитие AI я ещё не встречал.
Одно из предсказаний - это то, что 2024 год будет развлекать нас разными судебными процессами, связанными с AI. Так и есть - прежде всех под раздачу попали OpenAI, создатели chatGPT, их пытаются засудить и New York Times, и Илон Маск (и тот, и другой суд по-моему бредятина, но и тот и другой станут важнейшими прецедентами о том, какие данные можно использовать при обучении нейросетей и как их классифицировать).
Однако с развитием и распространением ИИ-инструментов увеличивается их доступность, и теперь каждый учитель физкультуры может управлять искусственным интеллектом, даже если своего не очень много. Впрочем, люди всегда дополняли технологиями то, чего им естественно не хватало - от колеса, которое позволяет быстро перемещаться с большими грузами, до машины, которая ездит быстрее человека. А если надо дополнить то, что не может мозг - есть калькулятор, а теперь компьютер.
Мужчина на фотографии как раз тот самый физрук, Dazhon Darien - и он не просто какой-то там физрук, а очень необычный. Впрочем, лучше начать с самого начала, с 17 января этого года, когда на ютюбе завирусился клип с голосом директора школы (белого), который несёт отборнейшую расистскую и антисемитскую хрень. С антисемитизмом ещё ладно, он сейчас в почёте в учебно-образовательных заведениях США, но вот расизм уже совсем другое дело, и директора сразу же отстранили от занятий и...
И вы представляете себе, ЧТО происходит с директором школы с США, которого уличили в расизме? Десятки тысяч просмотров на ютюбе - но это только те, кто решил послушать оригинал записи, а ведь мы знаем, что 99% людей обычно ограничиваются заголовком и подзаголовком статьи. Травля дома, травля на работе, травля всей семьи, травля в Х - короче чувак три месяца практически из дома не мог выйти.
И вот проходит три месяца, и физрука берут под чорны рученьки и препровождают в тюрьму, ибо пришёл результат анализа записи, которую он слил. А матерьяльчик-то поддельный оказался, не написано какая, но голос директора сделала нейросеть. Физрук, кстати, тоже не последний лох - он не просто сделал voice cloning, он ещё и добавил фоновый шум, чтоб запись выглядела (нет, запись не может выглядеть - слышалась) более аутентично.
Незадолго до появления злополучной записи физрук серьёзно поругался с директором, будучи немножечко пойманным за руку - он "mishandled" полторы тыщи баксов, а говоря простым русским языком прикарманил. И когда директор сказал, что школа вряд ли будет продлевать контракт на следующий год, чувак понял что надо что-то делать, и сделалъ! Не стоило ему, конечно, лазить по школьным сервакам и искать там ИИ-инструменты, но кто ж думал, что оно так выйдет и эти белые окажутся такие умные?
А теперь к практическим советам. Вы же понимаете, что если три месяца назад это было доступно физруку из американского Усть-Пиздюйска, то сегодня это доступно нашей местной школоте, нигерийским спамерам и их
украинским коллегам из службы безопасности банка Апоалим? Вы же понимаете, что если у кого-то есть запись вашего голоса, то сделать абсолютно точную копию - как два байта отослать?
Уже сейчас я бы порекомендовал поговорить со своими близкими, желательно не в квартире, а на улице и без телефона/часов, на всякий случай. Договоритесь о пароле, который никто кроме вас не знает, и договоритесь о том, что любые подозрительные просьбы (денег, доступа к компу и так далее) будут сопровождаться паролем/отзывом. На всякий случай.
А вы видели последнюю разработку Microsoft? Там по одной фотографии делается AI-avatar, то есть говорящая морда, реалистичная до ахуя - и в сочетании с вашим голосом это могут быть очень интересные видосики. Непонятно, правда, зачем теперь всякие дикторы на ТВ, кроме того чтоб зарплату им платить. И это только начало - ИИ никогда не будет таким тупым и унылым, как сейчас, и скорость только ускоряется.
Как сказал Илон Маск, it's not about speed and even not about acceleration. It's about jerk.
1
Коментарі
Nech sa paci
117.05.24, 23:37
Так, слушна ідея. Кодове запитання, кодова відповідь.
M@Sln
226.05.24, 22:39Відповідь на 1 від Nech sa paci
Тут на сайті в різних блогах ведеться багато розмов про ШІ, співаються дифірамби, хизуються майстерністю ШІ створювати малюночки та музику...
не розуміючи, що все це дитячі забавки, те, що лежить на поверхні.
На жаль, за стрімким розвитком прогресу майбутнє не виглядає безхмарним. І не через розвиток цього прогресу. Бо саме в цьому немає нічого поганого. Якщо.
Якщо використовувати цей прогрес на благо й розвиток людства. В чому я не впевнена анітрохи, озираючись довкола.
Бачили цех штучних людей, що активно створюють китайці? т.званих роботів гуманоїдів, які виглядають як людина?......
Про призначення цих штук замислювались?....
сумно....
Nech sa paci
328.05.24, 00:33Відповідь на 2 від M@Sln
Замислювався.