Українців непокоїть перспектива повстання машин. Які можливості, загрози та виклики бачать у розвитку ШІ

Згідно з опитуванням Projector AI Lab, кожен п’ятий український бізнес інтегрував у роботу ШІ. Як і за кордоном, в Україні дедалі стає все більше вітчизняних подібних інструментів. Ми опитали представників платформ, що пропонують ШІ, які зараз є виклики в ніші, як на неї впливає війна та яким буде майбутнє штучного інтелекту в Україні, пише dev.ua.

Регулювання ШІ: хто від цього виграє та програє?

Розробники вже зараз замислюються про небезпеку, яку може нести ШІ та про те, як її запобігти. Так, Open AI сформували команду з вивчення та пом’якшення «катастрофічних ризиків», пов’язаних зі штучним інтелектом. Зокрема команда має розглядати хімічні, біологічні та радіологічні загрози. В Україні ж розробили дорожню карту законодавчого регулювання штучного інтелекту, яке планують впроваджувати щонайменше до 2027 року.

Як показало опитування, 22% опитаних українців і справді непокоїть загроза неконтрольованої діяльності, повстання машин і можлива агресія стосовно людини. Згідно зі ще одним опитування, 34,1% респондентів виступають за обмеження та контроль, 32,4% не вважають їх потрібними, 27,2% не визначились.

Регулювання також може впливати на те, що ми не доотримуємо результат — бо розробники урізають можливості. Якщо запитати ChatGPT на якусь тему, яка викликає у нього підозру, то йому простіше не відповісти, щоб нікого «не образити». Хоча ваше запитання може бути цілком невинним.

З іншого боку, воно й на краще, що питаннями регулювання ШІ займаються вже зараз. На відміну на регулювання інтернет-простору — коли GDPR та інші акти вводилися вже постфактум і досить боляче.

Не можна також недооцінювати значення довгострокового партнерства між Україною та Європейським Союзом. Вступ до ЄС є стратегічним напрямком розвитку України, тому ми маємо зосереджувати зусилля на розвитку взаємовідносин у різних сферах, включаючи правове регулювання штучного інтелекту«.

Чи важко українським рішенням конкурувати з іноземними

За статистикою, у світі майже 58 000 компанії, що займаються ШІ, та 14700 з них знаходяться у США. Серед них не тільки визнані гіганти, що самостійно розробили рішення, але й ті, хто випускають сервіси, на основі вже існуючих ШІ. Також можна припустити, що розвиток сфери був би більш жвавим якби не війна. Але чи варто українцям через усі ці фактори обирати іноземні аналоги?

Як виявляється, далеко не завжди — і не тільки з патріотичних міркувань.

Візьмемо нашу компанію, Mantis Analytics. Ми спеціалізуємося на аналізі інформаційного простору, менеджменті фізичних та інформаційних ризиків.

Наші моделі штучного інтелекту прекрасно адаптовані до мовного контексту України та багатьох країн пострадянського ареалу. Це дозволяє нам створювати унікальні технології, що працюють з українською, російською мовою та таким явищем як суржик. Більшість іноземних моделей просто «сипляться», маючи справу з тонкими нюансами, що пов’язані з обробкою цієї інформації.

Інший момент — це тестування наших технологій в реальному часі. Більшість компаній у світі не мали справи з ситуацією, коли твій клієнт переживає десятки інформаційних атак щотижня. Війна поставила перед нам складні виклики, з багатьма з них ми впорались — цього досвіду немає у конкурентів.

В України є шанс стати світовим центром експертизи в галузі застосування штучного інтелекту в інформаційній сфері. Mantis Analytics зі свого боку робить для цього все можливе. Наприклад допомагаємо імплементувати та краще застосовувати ШІ-рішення в Грузії та Молдові. Співпрацюємо з освітніми інституціями та спільнотою. Зокрема, разом з AI HOUSE, ми провели хакатон «Disinformation Detection Challenge», сфокусований на ШІ-рішеннях для пошуку потенційно шкідливої та хибної інформації.

Усе це дає основу для розвитку технологій, що застосовуватимуться не лише в Україні. Власне, на цій ідеї побудовано кластер безпекових технологій Brave1, членом якого ми є«.

По-перше, наше рішення включає зокрема пошук за описом треку, за історією в словах пісні, за схожістю звучання, та за відео — все це не пропонується разом у інших рішень: AIMS API та Cyanite. По-друге, Harmix надає своїм клієнтам дані про пошукові запити користувачів, що дозволяє їм краще адаптувати свої колекції до цих конкретних потреб. Також ми адаптуємо свою технологію до потреб користувачів. Наприклад, після того, як декілька бібліотек з Індії запитали про пошук на хінді та бенгалі, ми спочатку додали ці мови, а потім вирішили розширити функціонал і зараз підтримуємо понад 100 мов.«.

Наведу приклад з нашої ніші — ШІ для роботи з телефонними дзвінками. Є потужний інструмент Assembly AI, якій перетворює мову на текст. Але з українською чи польською він працює досить обмеженно. Ми ж в Ringostat маємо власні напрацювання та мовні моделі, хоча й на основі LLAMA від META. З ними український бізнес може за потреби отримати розшифровку дзвінка рідною мовою, опис його стислого змісту, аналіз дотримання скрипту розмови, аналіз відповідно до потреб конкретного бізнесу та поради щодо інших дій».

На лезі бритви: етичні загрози при використанні ШІ

Коли йдеться про етичні питання в контексті ШІ, зазвичай мають на увазі, що він може:

• може збирати й використовувати великі обсяги даних про людей, що може становити загрозу їхній приватності;
• такі дані можуть використовуватися для шахрайства — наприклад, якщо ШІ створює персоналізовані листи
• нібито від знайомих, де просить надіслати гроші чи паролі;
• використовуватися для створення deep fake та дезінформації;
• створити небезпечні або шкідливі технології;
• може бути упередженим проти певних груп людей, що може призвести до дискримінації.

Наскільки важливі ці питання для українських розробників?

Назар Поночевний, Founder і CEO Harmix зазначає, що етичні питання та авторські права дійсно важливі. «Необхідно розвивати стандарти використання ШІ для запобігання негативним наслідкам. Наші клієнти теж серйозно до цього ставляться, та ми працюємо з ліцензійними data-сетами (набір даних, який використовується для навчання моделі машинного навчання), самостійно розмічаємо дані, а також генеруємо контрольовані синтетичні data-сети», каже він

Олександр Максименюк, CVO та засновник Ringostat запевняє, що етичні загрози існували й раніше. За його словами, просто до того потрібно було більше ресурсу та спеціальних знань. «Так само можна було зробити deep fake, але за допомогою комп’ютерної графіки. ШІ лише робить процес більш доступним, але не вигадує з нуля», — каже Максименюк.

Схожа історія, на його думку, з аналізом великих об’ємів даних: «Зокрема ШІ можна „згодувати“ соцмережі певної людини, та він складе дуже персоналізований лист на їх основі. Проте, думаю, що у майбутньому на таку ШІ-персоналізацію вже не будуть звертати увагу, як зараз не звертають увагу на звичайні листи „холодної“ розсилки. Якщо ж казати про рекламу, то що поганого в тому, що ШІ краще проаналізує ваші вподобання? Це дозволить пропонувати вам саме потрібні товари, а не те, що просто треба розпродати».

Максим Терещенко, Co-founder & CEO Mantis Analytics, відмічає, що наша країна знаходиться у стані найбільшої з часів Другої світової війни вже тривалий час. Це, на його думку, важливо враховувати при розгляді етичних аспектів, особливо коли йдеться про застосування штучного інтелекту.

«Звернімо увагу на поширення дезінформації, зокрема згенерованої за допомогою ШІ, та застосування цих інструментів для впливу на українське населення. Штучний інтелект допомагає з тим, щоб нівелювати цей вплив. Можемо швидко знаходити, маркувати та протидіяти йому за допомогою автоматизованих рішень на базі ШІ», — каже Терещенко.

Українські бізнеси, впевнений Терещенко, мають бути не лише експертами в технологіях, але й дуже добре розуміти галузь — де завершується дезінформація і починається демократичний обмін думками; де закінчується стримування ворога і модерація та починається цензура.

«Багато в чому відповідальність тут не лише на технологічних підприємствах, але й на інститутах громадянського суспільства, із якими ШІ-компаніям варто вести постійний діалог», — каже він.

Складності та виклики для українських ШІ-сервісів

Серед факторів, які найбільше впливають на сферу, можна назвати такі:

• війна та спричинена нею економічна криза, відбивається на інвестиціях та попиті на платні інструменти;
• відтік кадрів — чимало спеціалістів пішло на фронт, а хтось переїхав та влаштувався в іноземні компанії;
• нестача даних для навчання моделей українською мовою.

Але розробники бачать в цьому й виклики та можливість для зростання.

На щастя, існують акселераційні ініціативи, такі як згаданий Brave1, що допомагають командам знаходити контакти, залучати інвестиції та реалізовувати продукти на основі новітніх технологій. А Український фонд стартапів багато працює для репрезентації вітчизняних стартапів у світі.

Ці інвестори не враховують, що при переїзді вартість настільки збільшиться, що стартапи стануть просто не конкурентоспроможними та зникнуть. Відповідно, українським стартапам потрібно зробити в десятки разів більше, щоб привернути увагу і довести право на існування на світовому рівні.

При розробці на американський ринок є безліч загальнодоступних даних, на яких можна натренувати моделі. Data-сетів українською мовою або немає, або вони неякісні та автоматично згенеровані. Також мало моделей, навчених саме на телефонних розмовах — а це має значення, бо ширина звукового діапазону тут відрізняється від випадку, коли звук записано на мікрофон.

Ще проблема — видалення персональної інформації з розмов для навчання моделі. Адже у них людина може казати своє ім’я чи адресу. Але, якщо видалити таку інформацію, то ШІ просто не зрозуміє, про що йдеться, та не навчиться розпізнавати імена та адреси. Тому навчання штучного інтелекту українською — це наразі «завдання з зірочкою».

Це безпека команди та даних користувачів, робота під час перебоїв зв’язку, пошук інвестицій на розвиток в умовах нестабільності. Деякі компанії в Україні стикнулися з тим що клієнти та інвестори не впевнені, чи команда в Україні зможе безпечно працювати та завжди буде на зв’язку.

Тому розвиток сфери ШІ в Україні буде залежати від того, наскільки успішно вдасться вирішувати ці виклики та адаптуватися до глобальних тенденцій.

Як буде розвиватися сфера ШІ в Україні в майбутньому

Як і за кордоном, ШІ очікувано буде впроваджуватися у все більшу кількість сфер: вже зараз в Україні існують проєкти, де він задіяний в медицині та освіті. З іншого боку ШІ все активніше будуть залучати до військових завдань та мінімізації збитків від війни — наприклад, розмінування.

Інший приклад: адміністратори клінік чи салонів краси постійно обдзвонюють клієнтів, аби переконатися, що ті дійсно прийдуть в узгоджений час. Скоро можна буде налаштувати так, щоб ШІ обдзвонив клієнтів та зафіксував їх відповіді. А час, який звільнився, можна автоматично запропонувати клієнтам, які хотіли б записатися на найближчий час.

Крім того, якщо війна на полі бою скінчиться, вона все ще буде тривати в інформаційній сфері. З режиму воєнної пропаганди перетвориться на більш непомітне та підступне протистояння. Врахуйте глобальний контекст, зростання протистояння Китаю та США, і можна зробити доволі реалістичний прогноз: менеджмент інформаційних ризиків та протидія дезінформації будуть критично важливими.

Читайте також на Newssky «Фінляндія передасть Україні новий пакет військової допомоги на €190 млн» і дивіться на YouTube-каналі «Нудний Пенс».

Щоб завжди бути в курсі подій, підписуйтесь на ТГ-канал Newssky. Також рекомендуємо актуальні дискусії друзів України в Північній Америці на YouTube-каналі Rashkin Report.