Using blockchains to increase trust in AI

Wouldn’t it be great if AI applications could trust each other in the same way humans do? I trust my local bank to handle my account since I know its history and it has been doing business honestly since my grandparents were alive. I trust my friends even more, because I know more about their history. Trust is often based on a common history, and we now have a technology for recording and sharing history.

What if every instance of AI had access to a public ledger, which contained a detailed history of all other AI, and AI-to-AI interactions? From this immutable ledger, they could see which algorithms, versions and heuristics the other AI is using; everybody they have interacted with before; what parts they contain and even their history and so on. They would be able to process this information in milliseconds and make decisions about who to trust and to what extent. After some level of trust had been established, they could proceed to make binding contracts with the help of smart contracts.

This is possible with blockchain technology. Blockchain is a technology which enables complete strangers to engage in the distributed but joint production and maintenance of a database. It could also increase people’s trust in AI. Distributed ledgers could serve as reliable black boxes in the case of accidents. For example, if autonomous cars were to collide, we would want to know what happened in order to prevent a recurrence. If the cars were seriously damaged, the only sources of information would be their manufacturers, but can we really trust them to hand over all information provided by the cars’ AI? The companies may want to protect their reputations and hold certain information back, or even tamper with it, before handing it over to investigators. If the blockchain included hashes of the data sets, we could check whether the information provided was the same as the last data stream sent to the manufacturer by AI.

Blockchain, the technology behind Bitcoin, has given us a new tool for building trust on the basis of cryptographic techniques, and via authentication through huge computing power. After the success of cryptocurrencies, this new trust model has been considered for many applications in various domains. However, it seldom adds much value, since we already have working systems with their own trust models and a long history behind them. Above all, the average user likes the current, familiar methods of building trust.

We currently have the technology to make digital contracts, or even smart contracts, but the preferred way to make a contract is by handwritten signatures on physical paper and shaking hands. To be frank, this quite a handy approach. But what about AI, which tends to lack hands but still needs a way of building trust? Fortunately, AI is not burdened by old techniques and established practices, leaving us free to create new types of trust-building methods in situations where AI interacts with AI. Of course, we could try to use trusted third parties to grant certificates for trustworthy AI, rather like driving licenses for autonomous cars. However, who would be the trusted party?

Visa Vallivaara & Kimmo Halunen
Cyber Security

Based on the topic of Vallivaara’s panel discussion “Opportunities to shape future data research – blockchain and what is it for and what not” at the RDA EU Data Innovation Forum
https://rd-alliance.org/rdaeu-data-innov-forum-2018

 

Halunen ja Vallivaara 20180214_120451
Kimmo Halunen
Senior Scientist, VTT Cyber Security
kimmo.halunen(a)vtt.fi
@khalunen

Visa Vallivaara
Research Scientist, VTT Cyber Security
visa.vallivaara(a)vtt.fi

 

Based on the topic of Vallivaara’s panel discussion “Opportunities to shape future data research – blockchain and what is it for and what not” at the RDA EU Data Innovation Forum
https://rd-alliance.org/rdaeu-data-innov-forum-2018

More Information
vttresearch.com: VTT Cyber Security

 

Lohkoketjusta tekoälyn luottamuksen rakentaja?

Eikö olisi mukavaa, jos tekoäly voisi luoda luottamusta eri tilanteissa samalla tavoin kuin ihmiset tekevät? Luotan paikalliselle pankille tilini hallinnan, koska tunnen sen historian ja se on toiminut rehellisesti isovanhempieni ajoista lähtien. Luotan ystäviini enemmän, koska tunnen vielä tarkemmin heidän historiansa. Luottamus perustuu usein yhteiseen historiaan ja meillä on olemassa teknologia historian kirjaamisen ja jakamiseen.

Entä jos tekoälyllä olisi joka tilanteessa pääsy julkiseen rekisteriin, joka sisältää kaikkien muiden tekoälyjen aiemman toiminnan tarkan historian sekä vuorovaikutukset? Tästä julkisesta muuttumattomasta tietokannasta tekoäly näkisi muiden käyttämät algoritmit, niiden versiot ja heuristiikan; sekä osapuolet, joiden kanssa se on ollut vuorovaikutuksessa aiemmin; sekä mitä osia ne sisältävät ja jopa osien historian ja niin edelleen. Se pystyisi käsittelemään nämä tiedot millisekunneissa ja päättämään kehen luottaa ja kuinka paljon. Kun jonkinasteinen luottamus on saavutettu, ne voisivat edetä tekemään sitovia sopimuksia hyödyntäen lohkoketjujen älysopimuksia.

Lohkoketjuteknologian avulla tämä on mahdollista toteuttaa. Lohkoketju on tekniikka, jolla toisilleen vieraat toimijat voivat yhdessä tuottaa ja ylläpitää tietokantoja hajautetusti. Tämän lisäksi sillä voi myös lisätä ihmisten luottamusta tekoälyyn. Hajautetut lokikirjat voisivat toimia luotettavina mustina laatikoina onnettomuustilanteissa. Esimerkiksi älyautojen törmätessä haluamme selvittää, mitä tapahtui, jotta voimme estää sen toistumisen. Jos autot vahingoittuvat vakavasti, ainoat tietolähteet olisivat autojen valmistajat, mutta voimmeko todella luottaa niiden luovuttavan kaiken tekoälyn toimittavan tiedon. Yritykset saattavat haluta suojella mainettaan ja jättää tietyt tiedot ilmoittamatta tai jopa muuttaa niitä, ennen kuin ne luovutetaan tutkijoille. Jos lohkoketju sisältäisi tiivisteet datapaketeista, niin voisimme helposti vertailla, onko annettu tieto sama kuin tekoälyn viimeisin valmistajalle lähettämä datapaketti.

Lohkoketju, tekniikka Bitcoinin takana, on antanut meille uuden työkalun rakentaa luottamusta, joka luodaan kryptografisin menetelmin ja varmennetaan suurella määrällä laskentatehoa. Kryptovaluuttojen menestyksen jälkeen tätä uutta luottamusmallia on tarkasteltu monissa sovelluksissa eri aloilla. Se ei tosin yleensä tuo juurikaan lisäarvoa, koska meillä on käytössämme toimivat järjestelmät, joilla on jo omat luottamusmallinsa ja pitkä historia takanaan. Ja ennen kaikkea tavalliset käyttäjät pitävät nykyisistä tutuista luottamuksen rakentamismenetelmistä.

Tällä hetkellä meillä on olemassa teknologia digitaalisten tai jopa älykkäiden sopimusten tekemiseksi, mutta silti yleisin tapa sopia ovat käsinkirjoitetut allekirjoitukset ja kädenpuristus. Ja kyllähän se on melko kätevää. Mutta entä tekoäly, jolla ei yleensä ole käsiä, se tarvitsee kuitenkin myös keinon rakentaa luottamusta. Tekoälyillä ei ole onneksi taakkanaan vanhoja menetelmiä ja juurtuneita tapoja, joten niille voidaan vapaasti rakentaa luottamusmenetelmiä uusilla tavoilla niihin tilanteisiin, joissa erilaiset tekoälyt ovat vuorovaikutuksessa keskenään. Tietenkin voimme yrittää käyttää luotettavia kolmansia osapuolia antamaan sertifikaatteja luotettaville tekoälyjärjestelmille, kuten ajokortteja älyautoille. Mutta mikä olisi se luotettu taho?

 

Halunen ja Vallivaara 20180214_120451
Kimmo Halunen
Senior Scientist, VTT:n kyberturvallisuustiimi
kimmo.halunen(a)vtt.fi
@khalunen

Visa Vallivaara
Research Scientist, VTT:n kyberturvallisuustiimi
visa.vallivaara(a)vtt.fi

 

Kirjoitus perustuu Vallivaaran paneelikeskuteluun “Opportunities to shape future data research – blockchain and what is it for and what not” RDA EU Data Innovation Forumissa https://rd-alliance.org/rdaeu-data-innov-forum-2018

Lue lisää:
vttresearch.com: VTT Cyber Security

 

Finland a global driver of the platform economy – Suomi2.0

The platform economy, ecosystem, MyData, artificial intelligence, data, Suomi2.0…what does it all mean?

The platform economy means a new economic sector in which a company provides a technological platform on which companies, individuals or communities can create something that produces added value. A good example is Airbnb (https://www.airbnb.fi/), a platform which enables people to rent out their own homes. Uber (https://www.uber.com/fi/) provides a platform on which a car owner can offer rides to other people. Platform users form an ecosystem, or community, on top of – and benefiting from – the technological platform.

Finland has set itself the goal of becoming a leader of the global platform economy. This country has a good basis for becoming a driver of the platform economy. We have world-class expertise in the Internet of Things and are pioneers in 5G technology. Finland is the first country in the world to implement the MyData (https://julkaisut.valtioneuvosto.fi/handle/10024/78439) concept. Finland also has exceptionally long time series of health data and a highly educated people, slightly skewed towards technology.  It is no accident that the Linux operating system originated in Finland. Together, we are creating a technology-friendly platform called Suomi2.0. An ecosystem of strong technological platforms will grow on Suomi2.0.

It is fascinating to watch the world, and now Finland, turn in the direction in which we have been heading for many years. At sites such as Otaniemi, VTT has innovations including a platform which gathers data on energy, building automation and electricity consumption. This platform is being strengthened by the Otaniemi Smart Energy Pilot Platform project now underway (https://tapahtumat.tekes.fi/uploads/af21d1105/Reboot_workshop_slides_Smart_energy_pilot_platform_public-3566.pdf). We are also helping to enhance a number of platforms provided by Finnish cities. Since most future platforms, data sources and sensors will be concentrated in cities, urban areas will be at the forefront of the transformation into digital environments. The digital, smart cities of Finland’s future will therefore create a platform on which we Finns can begin building powerful artificial intelligence – to help humankind.

In my next blog, I will focus on a single technology that is critical to the platform economy of the future, blockchain technology. The Googles, Facebooks and Amazons of the future may be built on blockchain technology, hopefully in Finland.

 

mikko_tuomisto

Mikko Tuomisto
Research Scientist, Interactive Buildings
@MikkoTuomisto
@digimurros

 

(photo: Timo Riihimäki)