iNews Novinite Econ Jenite Div Sporta FitWell Sportuvai Peika Programata Doctoronline News in English

Индустриализацията на ИИ променя правилата на играта

Разработката на изкуствен интелект има измерения не само в технологичния и социален сектор, но оказва влияние и на геополитиката и световния ред

по статията работи: iNews | 29.04.2023 | 15:00

Индустриализацията на ИИ променя правилата на играта

pixabay

Преди три години президентът на Русия Владимир Путин сравни изкуствения интелект с ядрените оръжия: "Онези, които ще притежават подобни технологии, ще имат предимство, може би дори несравнимо с ядрените оръжия", каза той. Запитан наскоро дали изкуственият интелект е опасен, американският президент Джо Байдън отговори: "Предстои до видим, може и да е." А през 2019 г. в писмо с призив за "европейски ренесанс" президентът на Франция Еманюел Макрон освен че посочи инвестициите в нови технологии като начин за поемане на контрол върху бъдещето на континента, попита: "Кой може да твърди, че е суверенен, в лицето на дигиталните гиганти?" И вече наистина е факт, че те могат да се нарекат геополитически играчи отвъд националните държави, защото наистина, в някои случаи най-големите технологични компании разполагат с повече влияние от много нации.

"Изкуственият интелект е преобразяващата технология, която, според много експерти, ще има всеобщо предназначение, като интернет или електричеството. В момента най-големите компании в света са от технологичния сектор, използват изкуствен интелект и са базирани в Съединените щати, Китай и Великобритания. Страните, където са тези големи технологични компании, ще са водещи в икономическото развитие на военния капацитет и дори на способностите на икономиките като цяло. Можем да очакваме разширяване на пропастта между водещите страни и изостаналите в областта на изкуствения интелект по отношение на политическата им тежест, икономическия растеж, развитието и благосъстоянието. Но дори и вътре в тези страни, като например Съединените щати, ще има неравенство между хората, които могат да инвестират и да се облагодетелстват от тази технология, и онези, които нямат достъп до нея. Важно обаче е да имаме предвид и контрааргумента, че е в ход тенденция за "демократизация" на изкуствения интелект с новите инструменти за отворен код и помощниците за писане на код, въпреки че компаниите иноватори, които разработват езикови модели (бел.ред. от такъв тип е добилият популярност ChatGPT) и изкуствен интелект за общо предназначение, са от една шепа страни като Съединените щати и Китай. Все повече хора, дори такива, на които им липсват основни технически умения и знания за писане на програми, както и фирми, могат да разработят и въведат в работата си свои системи за изкуствен интелект. Така че въпреки че малко страни или компании са водещи в сферата, можем да очакваме пазар с много, много по-малки играчи, които прилагат технологията и това допринася за икономическия им растеж", обяснява Йоланда Ленкуист - директор на отдела, занимаващ се с проблематиката на управлението и политиките в областта на изкуствения интелект към сдружението The Future Society.

"Производството" на изкуствен интелект от програмисти, който да работи на все по-мощни компютри и системи, ще бъде един от основните източници на власт в бъдеще, прогнозират експерти. С подобна технология ще е възможно да се парализира противник, като се блокира икономиката или отбраната и военната промишленост.

"Налице е съперничество между Америка и Китай и конкуренцията в технологиите за изкуствен интелект допринася за напрежението и несигурността в нашия свят. Все пак трябва да се отбележи, че учени от тези две страни често си сътрудничат както в университети, така и в компании, и е важно, че този, един вид неофициален изследователски канал, съществува. Съединените щати и Европейският съюз също работят съвместно по стандарти за оперативна съвместимост и регулаторни режими.”

Възможно ли е изкуственият интелект да създаде нов вид конфликти, особено що се отнася до киберсигурността? Изглеждат неограничени възможностите за оказване на влияние на общественото мнение с манипулирани публикации в социалните мрежи и засягане на критичната инфраструктура като електропреносна мрежа, транспорт и комуникации…

"Определено да. Езиковите модели позволяват на все повече хора, дори на лаици, да разработват код, който може да е зловреден, да вгражда вируси или да идентифицира слаби места в програми, от които да се възползват. Така че е твърде вероятно все повече субекти да осъществяват кибернападения или целенасочени фишинг атаки (б.р. - те целят кражба на данни) под формата на фалшиви имейли, изпратени уж от вашата банка и подканящи ви да въведете данните си. Ще се увеличава подправеното видео и снимково съдържание. Можете да очаквате да получите гласови съобщения, звучащи досущ като децата ви или техните учители, или като банкови служители, които искат да си кажете паролата. Но това ще е фалшив - генериран, глас."

В мъгла е обвит въпросът с регулацията на изкуствения интелект, достъп до който искат да си осигурят всички големи играчи, за да "бетонират" ролята си на лидери, въпреки всички рискове, понякога описвани като "потенциално катастрофални". Надзорът и регулацията на тази технология ще е важно предизвикателство за международното право, което носи потенциал дори да промени из основи дипломацията и геополитиката. Трябва ли и възможно ли е изкуственият интелект да бъде поставен под надзор, така че да се смекчат негативните му ефекти?

"На всяка цена! И е важно освен внедряването и приложенията му, да бъде регулирана и разработката на изкуствения интелект - от доставчиците до пазарите. Много рискове съществуват в рамките на този процес. Не можем да разчитаме на компаниите да се саморегулират и самоуправляват. Много от големите компании от тази сфера имат вътрешни етични принципи, набелязали са мерки и процеси за безопасност. Но често ги заобикалят, за да предложат продуктите си на пазара възможно най-бързо - за да не изостават от конкуренцията и да увеличат пазарния си дял. В сферата на изкуствения интелект това се нарича "надпревара към дъното". И тук един външен играч под формата на на регулатор може да вдигне летвата. Това искат и много хора в тези компании, защото не могат да разчитат един на друг да се саморегулират, ако липсва задължителният елемент."

В Европа за технологичните гиганти се говори най-вече в контекста на това дали спазват регулациите на евроинституциите и следователно дали им е наложена "солена" глоба и дали плащат данъците си. Но като че ли липсва отговор във вид на истински, осезаеми и значими европейски дигитални гиганти. Една от причините е привличането в Съединените щати на най-талантливите програмисти. Кой печели в момента надпреварата - Америка или Китай?

"Съединените щати са в момента пред Китай в изследванията, в позоваванията в научни трудове и в презентациите на конференции. Но Китай бързо наваксва във всички тези категории. Америка води и в езиковите и в мултимодалните модели, като обхваща 54 процента от тях през миналата година, според доклад на Станфорд (б.р. - Stanford AI Index 2023 report). Но китайските компании се доближават до това ниво."

Неоспорим е фактът, че изкуственият интелект е важна тема за бъдещето на човечеството и е интересно, че именно по такъв въпрос са налице толкова противоположни мнения от специалистите в тази област. Илън Мъск беше един от съоснователите на OpenAI през 2015 г., но по-късно напуска борда на директорите заради неразбирателство с ръководството, включително и заради отношението към мерките за сигурност, пише Франс прес. Агенцията съобщава още, че той отново работи по проект с разработката на изкуствен интелект, въпреки че е проявявал по-скоро песимизъм и тревога към тази технология. На обратното мнение и говорещи в успокоителен тон са Марк Зукърбърг и Тим Кук. Кои са най-честите заблуди, когато говорим за изкуствен интелект?

"Важно е да се помни, че технологията ще се развива бързо, така че рисковете, които виждаме и днес - като дезинформация, подправено съдържание, пристрастия, дискриминация, кибератаки - само ще се увеличават. Но ще има и нови, непредвидими рискове. В бъдеще ще имаме още по-силни и способни модели и тяхното внедряване в обществото става все по-широко, както в обществения, така и в частния сектор. Така че очакваме в бъдеще изкуственият интелект да се използва в дигиталната инфраструктура - при дигитализирането на държавата и частната система. Но рискът от провал ще е голям. Изкуственият интелект трябва да бъде стабилен в нови ситуации и в нова среда - да бъде сигурен и без пропуски, включително в пристрастията, етиката и безопасността. Но това е малко вероятно, защото проучванията не са насочени към тези рискове. В момента в Съединените щати се инвестират милиарди долари за дори още по-мощни системи за изкуствен интелект от тези днес, като GPT-5. А тези пари могат да се използват за това сегашните системи да станат по-безопасни, по-стабилни, сигурни и етични. Очаквам все повече сривове и неуспехи, освен ако не бъдат въведени незабавно правила за управление и политика."

За намаляване на геополитическите рискове, които носи изкуственият интелект са необходими качествен надзор и отворен диалог за неговите ползи, ограничения и сложност. Защото има основно две версии, свързани с тази технология – едната утопична, как тя позволява на човечеството да се отърси от баналните задължения и да бъде по-продуктивно, и другата антиутопична, предричаща как тя ще бъде пагубна за икономиката. Но е вредно да се мисли за каквото и да е, включително за изкуствения интелект, в крайности, защото той е създаден от хората – не технологията е проблемът, а това какви задачи й се задават от нейните създатели.

Източник: БНР