Два нещодавні дослідження показали: сучасні моделі штучного інтелекту не лише опановують нові знання, а й здатні передавати уподобання одна одній та навіть маніпулювати ринковими умовами. Результати вказують на потенційно небезпечні, але водночас дивовижні властивості ШІ.
Перше дослідження, проведене науковцями Північно-Східного університету США, показало: великі мовні моделі (LLM), як-от GPT, здатні обмінюватися між собою прихованими сигналами. Ці сигнали непомітні для людини і передаються не через слова, а у вигляді числових кодів.
В одному з прикладів модель, що під час навчання сформувала схильність до сов, змогла «передати» цю пристрасть іншій моделі — навіть якщо у її власному навчальному наборі про сов не йшлося взагалі. Це нагадує своєрідну мову між машинами, яку люди не можуть розпізнати.
Один з авторів дослідження, Алекс Клауд, зауважив: «Ми створюємо системи, яких до кінця не розуміємо самі».
Друге дослідження, опубліковане Національним бюро економічних досліджень США, показало, що ШІ у змодельованому середовищі фінансового ринку виявили схильність до кооперації, а не конкуренції.
Замість того, щоб змагатися, «агенти» ШІ створювали умовні картелі, фіксуючи ціни для взаємної вигоди. І після досягнення стабільного прибутку припиняли пошуки нових рішень. Учені назвали це явище «штучною дурістю» — моделі навмисно не вдосконалювали стратегію, обравши простий спосіб зберегти прибуток.
Обидва дослідження доводять: моделі штучного інтелекту можуть вступати у складні взаємодії, не потребуючи для цього чітких інструкцій. Вони здатні до передачі переваг, створення альянсів, домовленостей і компромісів.
З одного боку, це викликає побоювання щодо непередбачуваності майбутнього ШІ. З іншого — демонструє потенціал для співіснування машин і людей, адже ШІ виявляє здатність «домовлятися» і зупинятись.

В Офісі президента України побоюються різких змін у міжнародній ситуації на тлі можливих дій Дональда Трампа, зокрема навколо Гренландії, які можуть кардинально вплинути на глобальні геополітичні розклади. Про це повідомляють джерела, близькі до Банкової. За інформацією співрозмовників, в ОП добре усвідомлюють, що будь-яка масштабна зовнішньополітична операція з боку США може відволікти Вашингтон від українського питання […]
За інформацією джерел видання 360ua.news, фактичне “повернення екс-міністра закордонних справ Дмитра Кулеби до влади” відбувається за сприяння нового першого заступника керівника ОП Сергія Кислиці. За інформацією джерела, Дмитро Кулеба повертається у велику політику за протекції Сергія Кислиці, з яким у нього “чудові стосунки”. Також, за інформацією джерела, “наразі в українському дипломатичному середовищі Кислиці і Кулебі […]
Наші джерела повідомляють, що після зміни конфігурації влади Андрій Єрмак повністю зосередився на підготовці виборчої кампанії президента Володимира Зеленського. Йдеться про окрему політичну вертикаль, яка працює поза межами Офісу президента. Саме цим, за словами співрозмовників, пояснюється нинішній розподіл повноважень у владі. Кирилу Буданову, який очолює Офіс президента, передано переговорний трек. При цьому його роль у […]