Технології

Ризик того – не знаю чого, зробити те – не знаю що

Не пропустіть на вихідних перший у світі матеріал, ставить обговорення важливої для людства теми з голови на ноги. Я давно збиралася про це написати, але в підсумку, написав Харі Джонсон. І це навіть краще, оскільки ризики ШІ — це його профільна тема.

Великий королівський астроном, мульти-академік, лицар-бакалавр і член Палати лордів Мартін Рис припустив,що ми — єдина високорозвинена цивілізація у Всесвіті, тому що всі інші вже самоистребились.

І те ж саме чекає земну цивілізацію (і все цивілізації майбутнього). Бо при досягненні високого технологічного рівня, цивілізація підходить до порогу, після якого вона не в змозі впоратися з екзистенційними ризиками, випереджаючими прогрес.Швидше за все, головним джерелом таких ризиків є ІІ.

Люди вже здогадалися про це і намагаються щось зробити. Різні держави йдуть різними шляхами.Китай вирішив піджати бізнес і університети під КПК і тим самим зосередити контроль за розвитком найбільш ризикових технологій в руках «самої мудрої і далекоглядної сили».

Забюрократизована Європа вирішила йти по шляху законодавчого, намагаючись захистити розвиток в області ШІ законодавчими парканами і економічними веригами для бізнесу (щоб не сильно розбігався, куди не треба).США метушаться, намагаючись пройти між Сциллою та Харибдою двох названих підходів. Для 1-го у них немає своєї КПК.

Для 2-го — поки немає критичної маси бюрократів (але це щосили виправляється).Про Росію думайте самі, вирішуйте самі. Але схоже, можливі обидва варіанти відразу.

Ну а тепер про головне — про що написав Харі Джонсон.Ось сухий залишок.Чума на обидва вищезгаданих шляху (взяття під держконтроль і регулювання).

Обидва шляхи надінуть гамівні сорочки на інновації, після чого підуть вперед країни, не надягли на себе таку спецодяг. Зіткнувшись з цим, надягли гамівні сорочки держави, їх знімуть. Після чого світ дружно прискорить біг до обриву прірви імені Мартіна Рису.

Неможливо заборонити або навіть просто обмежити ні мети використання ШІ, ні в області його застосування, ні перелік розв’язуваних їм завдань. Щоб довго не пояснювати, візьміть приклад з електрикою. І спробуйте подумати, як можна законодавчо обкласти його використання там, де це веде до критичних ризиків.

Швидко зрозумієте — ніяк.Що таке критичний ризик, в контексті ІЇ, абсолютно не зрозуміло. Бо це залежить від того, на що ШІ буде здатний: — якщо він здатний лише перекладати тексти, малювати котиків і бути розумною колонкою — то й говорити нема про що; — а коли, наприклад, «наш ІІ» планування бойових операцій перевершить «їх ШІ», — колосальний ризик з’явиться, але запобігти його можна, лише не давши своєму ІІ» перевершити «їх ШІ» (що не виключено); — ну і зовсім погана ситуація: уявіть в метафорі електрики, що найбільшим потенційним ризиком його застосування вважається удар струмом (так от з ІІ ми рівно в такій ситуації);Розробники нових ШІ на основі базисних моделей (кити БигТеха), провайдери програм / сервісів на їх базі і «імплементатори» не зможуть домовитися.

Вони вже почали активно перекладати відповідальність один на одного. І ситуацію в цілому по вирішенню проблеми відповідальності (хто винен, коли трапиться погане) буде куди важче розрулити, ніж, наприклад, в локальній області самоврядних авто (де ця проблема поки що не має універсального рішення).В силу переліченого, видно лише одна альтернатива: — не придавлювати госвластью розробників; — не городити паркани законів і навішувати на них вериги на бізнес; — а радикально вирішити питання всього одним рішенням на рівні ООН — термінове створення міжнародної інфраструктури громадських проектів базисних моделей ІІ, подібних космічному телескопу Хаббла і Великому адронному коллайдеру.

Скажіть, — хто про що, а вошивий про лазню? І будете праві, — я знову про те ж. Бо ця «лазня» вкрай важлива для виживання наших онуків.#ризики ІІ ________________________Ваші шанси побачити мої нові пости швидко зменшуються до нуля, якщо ви не лайкаете, не коментуєте і не діліться в соцмережах.

Related posts

Leave a Comment