Sunday, January 15, 2023

IBM:n SyNAPS projektin vuoden 2015 tietojen mukaan

 IBM:n SyNAPS projektin älypiiriin läpimurto( 2008 ) sai minut muuttamaan kantaani tekoäly tulevaisuuteen.  IBM oli kyennyt luomaan hermosoluja matkivan muistipiirin ja sen testi osoittivat ratkaisua menestykesksi. Näin syntyi TrueNorth mikropiiri neuroydin sisältää 256 neuronia ja noin 65 000 oppivaa synapsia. TrueNorth koostuu 4096 ytimestä ja näin ollen sisältää miljoona neuronia ja 256 miljoona synapsia. 

IBM NS16e jossa oli 16 TrueNorht piiriä ja sisälsi 16 miljoona neuronia 

The scalable platform will process the equivalent of 16 million neurons and 4 billion synapses and consume the energy equivalent of a hearing-aid battery – a mere 2.5 watts of power.


IBM NS16e-4 jossa oli 64  TrueNorht piiriä ja sisälsi 64 miljoona neuronia


https://www.youtube.com/watch?v=tAtmNYBObkw&list=PLAA2F7385208D3EBF&index=35

https://www.youtube.com/watch?v=8vLC1cbm3vI&list=PLAA2F7385208D3EBF&index=37

https://www.youtube.com/watch?v=6O6igM4lMDc&list=PLAA2F7385208D3EBF&index=34

https://www.youtube.com/watch?v=fURhiuFT-EY&list=PLAA2F7385208D3EBF&index=36




,



Tekoäly ja sen kaksi toteutuspariaattetta.

Nykyaikaiset tekoälysovellukset perustuvat ihmisen aivoja jäljitteleviin ohjelmoituihin hermoverkkoihin. Tietokoneella laaditaan ohjelmisto, joka siis matkii hermoverkkoa. Tämän ohjelman lopullista käyttäytymistä ei ohjelmoida mitenkään. Se, mitä ohjelmoidaan, käsittää yksittäisten hermosolujen sisäisen toiminnan ja niiden välisen viestiliikenteen.

Kun tätä verkkoa hyödynnetään päättelyssä, verkolle opetetaan, mitä sen tulee tehdä tai tunnistaa. Opetuksen aikana verkko muuttuu, niin että se on oppinut. Kun hermoverkko on opetettu, ei kukaan tiedä, mitä se on oppinut ja miten se tulee toimimaan, muuten kuin tekemällä verkolle kysymyksiä.


Viimeisen kuukauden aikana on kohuttu ChatGPT palvelusta. Tämä on verkkosivusto, jossa kuka tahansa voi esittää kysymyksiä tekoälysovellukselle, joka on harjoitettu hyvin laajalla aineistolla laatimaan vastauksia hyvin laaja-alaisiin kysymyksiin osoitteessa https://chat.openai.com/chat


Esitin tuolle botille kysymyksen 


mikä on ChatGPT toimintaperiaate


ja ohjelmisto vastasi:


ChatGPT on tekstipohjainen generatiivinen malli, joka on koulutettu miljoonilla tekstipätkillä internetistä. Malli on koulutettu ymmärtämään kielen rakennetta ja merkitystä, jotta se pystyy tuottamaan järkevää ja tehokasta tekstiä pyydetyissä konteksteissa. ChatGPT käyttää tekstipätkiä, jotka on koulutettu malliin, vastatakseen käyttäjän kysymyksiin tai täydentämään käyttäjän syöttämän tekstin.


Tässä on tärkeää ymmärtää, että ohjelmisto on koulutettu syöttämällä sille hyvin paljon tekstiä internetistä. Ohjelmisto ei käytä syöttötietoja sellaisenaan,  vaan muodostaa tietosta abstraktin “maailmanmallin” ja laatii vastauksensa tämän abstraktin tiedon pohjalta. Kun verkko on opetettu, oppi sijaitseen verkon kytkennöissä, mutta kukaan ei voi mitenkään tarkistaa , mitä verkko on oppinut tutkimalla verkon tilaa tai sisältöä. Tässä suhteessa tämä oppi on samanlaista kuin ihmisen vastaava.


Google oli kokeillut tietokoneille ohjelmoituja hermoverkkoja oppiviin tekoälysovelluksiin. Jo pitkään 2000 -luvulla oli tutkittu ohjelmoitujen hermoverkkojen tekoälyominaisuuksia. Tauno Kohonen työryhmineen teki itseohjautuvat kartat sovelluksen jo 1980 -luvulla, ja tämä oli jo oppiva hermoverkkosovellus.


Google teki kokeen 2018  tällaisella verkolla, jota ei oltu opetettu lainkaa. Ohjelmistolle “näytettiin” miljoonia YouTube videoita. Lopuksi siltä tiedusteltiin, mitä se oli nähnyt. Ohjelmisto tulosti kissan pään. Se siis oli itsenäisesti “ymmärtänyt”, että kissa on itsenäinen olento,  ja ohjelmisto pystyi tulostamaan kissan pään.


Algoritminen ja piiripohjainen hermoverkko

Tämä hermoverkkojen matkiminen sopii kuitenkin tietokoneella harvinaisen huonosti. Tästä syystä tämä toiminta on hyvin hidasta,  ja käytetyt hermoverkot ovat kovin pieniä. Tästä huolimatta näitä käytetään jo laajalti. Esimerkiksi Google Translate on tällainen.

Toinen ja huomattavasti tehokkaampi tapa toteuttaa näitä hermoverkkoja on suunnitella mikropiiri, joka toimii riittävästi ihmisen hermon tapaan. Tällä alueella IBM teki ensimmäisen läpimurron,  kun se suunnitteli kokonaan uuden TrueNorth mikropiirin. 




TrueNorth piiri

IBM SyNAPS laitteita

Tämän suunnitteluryhmän johtaja Modha kertoi jo varhaisessa vaiheessa, että he ovat rakentamassa hermoverkkolaitetta, jonka tilavuus on kaksi litraa ja joka toimii 45W sähkövirralla ja sisältää saman määrän hermosoluja ja synapseja kuin ihmisaivot ja tämä on valmis 2022. Ihmisen aivoissa on hermosoluja 86 * 109  eli 86 miljardia ja synapseja  on 100 * 1014 = 100 triljoonaa.

Tällaisen laitteen suorituskyky ja nopeus on n. 1000  kertaa vastaavan tietokoneeseen ohjelmoidun ratkaisun,  ja virrankäyttö on vain yli 10 000 osa tietokoneella tarvittavasta virrasta.


Vuoden 2015 jälkeen USA:n aseteollisuus piilotti TrueNorth hankkeen kokonaan julkisuudelta, todennäköisesti siitä siistä, että hanke edistyi yllättävän hyvin! Näin ollen emme tiedän sen jatkokehityksestä yhtään mitään.


Tällä hetkellä on kuitenkin kehitetty ja kehitteillä kaupallisia ratkaisuja, jotka ovat selvästi kehittyneempiä kuin IBM:n hanke 2015. Ensimmäinen tällainen oli Intelin Loihi ja Loihi 2 piirit.

Tällä hetkellä lupaavin hanke on kokonaan analoginen Rain Neuromorphic yrityksen laite, jonka sanotaan olevan kooltaan ihmisaivojen luokka. 

                 

Intel Loihi2  Rain Neuromorphics älysiru