Inteligenta artificiala, hackerii si piata de capital


Inteligenta artificiala reprezinta noua provocare a pietelor de capital. Robotii tranzactioneaza deja in piata si lupta cu ei nu este in nici un chip una usoara. De la actualii roboti programati sa puna in practica anumite sisteme de tranzactionare, vom trece la roboti capabili sa invete singuri si sa decida singuri tranzactiile pe care le fac. Iata de ce este extrem de important ca sa acordam o atentie sporita programelor AI. Nu este departe ziua cand ele vor deveni realitatii ale spatiului de tranzactionare pe pietele de capital.

Anul trecut, doi oameni de stiinta de date, de la firma de securitate ZeroFOX au realizat un experiment pentru
a vedea cine a fost mai bun la obtinerea de utilizatori Twitter pentru a face clic pe link-uri malitioase,
oameni sau o inteligenta artificiala.
Cercetatorii au învaat un AI sa studieze comportamentul utilizatorilor retelei sociale, si apoi sa-si proiecteze
si sa implementeze propria sa momeala de phishing.

În teste, hackerul artificial a fost substantial mai bun decât concurentii sai umani, compunând si distribuind mai multe tweet-uri de tip phishing decât oamenii si cu o rata de conversie substantial mai buna.
AI, numit SNAP_R, a trimis tweet-uri de tip phishing simulate la peste 800 de utilizatori, la o rata de 6,75 tweet-uri
pe minut, ademenind 275 de victime.
Spre deosebire, scriitorul personalului Forbes , Thomas Fox-Brewster, care a participat la experiment, a reusit  sa pompeze 1.075 de tweet-uri pe minut, facând doar 129 de încercari si atragerea a doar 49 de utilizatori.
Din fericire, acesta a fost doar un experiment, dar exercitiul a aratat ca hackerii sunt deja în pozitia de a folosi AI
pentru scopurile lor nefaste si, de fapt, probabil ca deja o folosesc, desi este greu de dovedit.
În luna iulie, la Black Hat USA 2017 , s-au adunat sute de exper?i în securitatea informatica din Las Vegas pentru a discuta aceasta problema si alte amenintari care se ridica din cauza tehnologiilor emergente.

Într- un sondaj Cylance desfasurat în timpul confabului, participantii au fost întrebati daca hackerii criminali vor
folosi AI pentru scopuri ofensive în anul urmator, la care 62% au raspuns afirmativ.

Epoca inteligentei artificiale a inceput si ne ameninta, dar daca acest sondaj informal Cylance este de crezut,
un numar surprinzator de profesionisti infosec refuza sa recunoasca posibilitatea ca AI sa fie armate de catre hackeri
în viitorul imediat. Este o pozitie ce te poate lasa perplex, dat fiind faptul ca multi dintre expertii in securitatea
informatica considera ca inteligenta artificiala este folosita deja de hackeri si ca infractorii sunt mai sofisticati in folosirea acestei tehnologii emergente decat cred foarte multi oameni.

“Hackerii au folosit inteligen?a artificiala ca arma de ceva timp”, a declarat Brian Wallace, Cylance Lea Security Scientist, într-un interviu acordat Gizmodo. “Are sens, deoarece hackerii au o problema de scara, încercând sa atace cât mai multi oameni, lovind cât mai multe sinte posibil si încercând totodata sa reduca riscurile pentru ei însiti. Inteligenta artificiala si învatarea masinii, în special, sunt instrumente perfecte pentru a fi folosite. Aceste instrumente, (spune el), pot lua decizii cu privire la ce sa atace, cine sa atace, când sa atace si asa mai departe”.

 

Cântare de inteligenta

Marc Goodman: “totul este conectat, toata lumea este vulnerabila”. “Nu sunt surprins de faptul ca atât de multi participanti la Black Hat vad AI drept arma in viitorul imediat. Ceea ce mi se pare un pic ciudat este faptul ca 62% dintre profesionistii infosec fac o predictie AI”, a declarat Goodman Gizmodo.
“AI este definit de multi oameni în moduri diferite. As vrea asadar mai multa claritate cu privire la ce anume înseamna AI.”

Într-adevar, este probabil ca în aceasta chestiune opiniile expertilor sa fie divergente.

Lucrul amuzant cu privire la inteligenta artificiala este ca conceptia noastra despre aceasta se schimba odata cu trecerea timpului si tehnologiile noastre se potrivesc din ce în ce mai mult cu inteligenta umana în multe moduri importante. La nivelul cel mai fundamental, inteligenta descrie capacitatea unui agent, fie el biologic sau mecanic, de a rezolva probleme complexe. Dispunem de multe instrumente cu aceasta capacitate, si le avem de ceva timp, dar aproape imediat începem sa luam aceste instrumente de îndata ce apar.
Cu secole în urma, de exemplu, perspectiva unei masini de calculare care ar putea sa opereze cu numere de milioane de ori mai repede decât un om ar fi fost cu siguranta considerata un avans tehnologic radical, dar putini astazi ar considera calculatorul  ca fiind ceva special. În mod similar, capacitatea de a câstiga la sah a fost odata considerata o nota ridicata a inteligentei umane, dar de când Deep Blue la învins pe Garry Kasparov în 1997, aceasta abilitate cognitiva si-a pierdut fosta stralucire. Si asa mai departe, cu fiecare trecere în AI.
Astazi, evolutiile rapide în procesul de învatare a masinilor (prin care sistemele învata din date si se îmbunatatesc cu experienta fara a fi programate în mod explicit), prelucrarea limbajului natural, retelele neuronale (sisteme modelate pe creierul uman) si multe alte domenii reduc, de asemenea, perceptia noastra asupra a ceea ce constituie inteligenta masinii. În câtiva ani, asistentii personali artificiali (precum Siri sau Alexa), autoturismele si algoritmii de diagnosticare a bolilor vor pierde, în mod nejustificat, si AI-ul lor. Vom începe sa luam aceste lucruri de la sine înteles si vom dispretui aceste forme de AI pentru ca nu sunt perfect umane. Dar nu faceti nici o greseala – uneltele moderne precum inteligenta masinilor si retelele neuronale sunt o forma de inteligenta artificiala.

O problema înrudita este ca termenul de inteligenta artificiala implica viziuni futuriste si fantezii sci-fi care sunt departe de realitatile noastre actuale.

“Termenul AI este adesea interpretat gresit, multe persoane gândindu-se la roboti Terminator care încearca sa-l vâneze pe John Connor – dar asta nu este ceea ce este AI”, a spus Wallace. “Mai degraba, este un subiect larg de studiu în jurul crearii diverselor forme de inteligenta care se întâmpla sa fie artificiale”.

Wallace spune ca exista multe domenii diferite ale AI, în timp ce învatarea masinilor este un subset deosebit de important al AI în momentul de fata.

“În linia noastra de lucru, folosim învatarea îngusta a masinilor – care este o forma de AI – atunci când încercam sa aplicam inteligenta unei anumite probleme”, a declarat el. “De exemplu, folosim învatarea masinilor atunci când încercam sa determinam daca un fisier sau un proces este rau intentionat sau nu. Nu încercam sa cream un sistem care sa se transforme în SkyNet. Inteligenta artificiala nu este întotdeauna ceea ce a prezentat mass-media si SF si când vorbim despre AI, vorbim de arii largi de studiu care sunt mult mai simple si mult mai putin terifiante “.

Provocari rele

Aceste instrumente moderne pot fi mai putin terifiante decât viziunile tip cliseu dinTerminator , dar în mâinile unor indivizi cu intentii gresite, ei pot fi  înfricosatori.

Deepak Dutt, fondatorul si CEO al Zighra, un start mobil de securitate, afirma ca exista o probabilitate ridicata ca AI sofisticat sa fie folosit în viitorul apropiat pentru atacuri cibernetice si ca ar putea fi deja utilizat de tari precum Rusia, China si unele tari din Europa de Est. În ceea ce priveste modul în care AI ar putea fi folosit în moduri nefaste, Interesant cum Dutt mentioneaza Rusia, China si Europa de Est dar nu scoate nici un diftong despre SUA. Patria AI are numai ganduri oneste…Dutt nu duce lipsa de idei.

“Inteligenta artificiala poate fi utilizata pentru a extrage cantitati mari de date din domeniul public si din retelele sociale pentru a extrage informatii de identificare personala, cum ar fi data nasterii, sexul, locatia, numerele de telefon, adresele de e-mail etc. care pot fi utilizate pentru hacking  ” , a declarat Dutt .

Adica exact ce face acum Google, Facebook si alte monopoluri platforma. Daca incepeti sa cautati pe facebook sau pe google mancare vegana, dupa cateva zile pe pagina dumneavoastra de facebook sau google o sa primiti publicitate directionata.

Pe pagina mea de facebook primesc zeci de anunturi de la toate casele de brokeraj din Romania. Nu am cont la o casa de brokeraj romaneasca. Dar facebook citeste si vede tot si crede ca sunt un posibil client. Incercati sa scapati de aceste anunturi inepte si o sa vedeti ca nu aveti nici o sansa. Facebook stie mai bine ce vrei, ce te intereseaza si-ti baga pe git toate aberatiile posibile.

“De asemenea, AI poate fi folosit pentru a monitoriza automat e-mailurile si mesajele text si pentru a crea email-uri personalizate de phishing pentru atacurile de inginerie sociala” .

“AI poate fi folosit pentru a muta cu usurinta programe malware si ransomware si pentru a cauta mai inteligent si pentru a descoperi si a exploata vulnerabilitatile dintr-un sistem.”

Dutt suspecteaza ca AI este deja folosit pentru atacuri cibernetice si ca infractorii folosesc deja un fel de capabilitati de învatare automata, de exemplu, prin crearea automata a e-mailurilor personalizate de phishing.

Asta spune Dutt. Ce nu spune el dar o fac eu este ca marile corporatii, cei care teoretic ofera servicii internautilor (fie ca ofera un serviciu de mail, de navigare, de cautare, de stocare date sau import date), folosesc deja inteligenta artificiala si ne spioneaza non stop.  Gluma ca “Un calculator sigur este unul inchis si scos din priza” nu mai este de mult o gluma.

“Dar ceea ce este nou este sofisticarea AI în ceea ce priveste noile tehnici de învatare a masinilor, cum ar fi Deep Learning, care pot fi folosite pentru a atinge scenariile pe care tocmai le-am mentionat cu un nivel mai ridicat de precizie si eficienta”, a spus el.

Deep Learning, cunoscut si sub numele de învatare ierarhica, este un subdomeniu de învatare a masinilor care utilizeaza retele neuronale mari. Acesta a fost aplicat la viziunea pe computer, recunoasterea vorbirii, filtrarea retelelor sociale si multe alte sarcini complexe, adesea generând rezultate superioare expertilor umani.

“De asemenea, ajuta la disponibilitatea unor cantitati mari de seturi de retele sociale si publice (Big Data). Tehnicile avansate de învatare automata si tehnicile si instrumentele de învatare de la distanta sunt usor disponibile acum pe platformele open source – acest lucru, combinat cu infrastructura computationala relativ ieftina, permite în mod eficace cyberattacks cu o sofisticare mai mare.

In zilele noastre, numarul coplesitor de atacuri cibernetice este automatizat, potrivit lui Goodman. Hackerul uman care merge dupa o tinta individuala este mult mai rar si abordarea mai comuna este acum automatizarea atacurilor cu instrumente de AI si de învatare în masina – totul, de la atacurile distribuite Denial of Service (DDoS) scrise pâna la ransomware, criminal chatbots si asa mai departe. Desi se poate argumenta ca automatizarea este fundamental
neinteligibila (dimpotriva, se poate face ca unele forme de automatizare, în special cele care implica seturi mari de sarcini complexe, sunt într-adevar o forma de inteligenta), perspectiva unei inteligente a masinilor care orchestreaza aceste sarcini automate sunt deosebit de alarmante. Un AI poate produce scripturi complexe si foarte bine directionate, la o rata si un nivel de sofisticare cu mult peste orice hacker uman.

Într-adevar, posibilitatile par a fi aproape nesfârsite. Pe lânga activitatile criminale deja descrise, AI ar putea fi utilizate pentru a viza populatiile vulnerabile, pentru a efectua hack-uri rapide, pentru a dezvolta programe malware inteligente si asa mai departe.

Staffan Truvé, Chief Technology Officer la Recorded Future, spune ca, pe masura ce AI se maturizeaza si devine mai mult o marfa, “baietii rai” vor începe sa o foloseasca pentru a îmbunatati performanta atacurilor, reducând totodata costurile. Spre deosebire de multi dintre colegii sai, însa, Truvé spune ca AI nu este folosita de hackeri în momentul de fata, sustinând ca algoritmii simpli (de exemplu pentru codul de auto-modificare) si sistemele de automatizare (de exemplu, pentru a permite scheme de phishing).
“Nu cred ca AI a devenit înca o parte standard a setului de instrumente pentru baietii rai”, a declarat Truvem . “Cred aceasta pentru ca altfel am fi vazut mai multe atacuri AI”. 

Evident, ele nu constituie inca “standard”-ul. Cand ele vor fi considerate “standard” inseamna ca au devenit de masa.

AI pe AI

Cu AI, acum ca parte a setului de instrumente pentru hackeri moderni, aparatorii trebuie sa vina cu noi metode de aparare a sistemelor vulnerabile. Din fericire, profesionistii în domeniul securitatii au la dispozitie o contramasura destul de puternica si evidenta, si anume inteligenta artificiala în sine. Problema este ca acest lucru ne obliga sa produca o cursa a înarmarilor între taberele rivale. Nici una dintre parti nu are de ales, deoarece singura modalitate de a contracara cealalta parte este sa se bazeze din ce în ce mai mult pe sisteme inteligente.

“Pentru expertii în securitate, problema majora este cea de Big Data – avem de-a face cu tone de date – mai mult decât poate verifica un singur om “, a spus Wallace. “Odata ce ati început sa va ocupati de un adversar, nu aveti de ales decât sa utilizati AI drept arma”.