Claude Elwood Shannon 1916 2001 Hannele Anttonen Tietojenksittelytieteen

  • Slides: 19
Download presentation
Claude Elwood Shannon 1916 -2001 Hannele Anttonen Tietojenkäsittelytieteen historia -seminaari 2007

Claude Elwood Shannon 1916 -2001 Hannele Anttonen Tietojenkäsittelytieteen historia -seminaari 2007

Claude Elwood Shannon ● ● Yhdysvaltalainen matemaatikko ja sähköinsinööri Kehitti informaatiotekniikan perusteet Kehitti digitaalitekniikkaa

Claude Elwood Shannon ● ● Yhdysvaltalainen matemaatikko ja sähköinsinööri Kehitti informaatiotekniikan perusteet Kehitti digitaalitekniikkaa Tutki tiedonsalausta

Koulutus ● ● ● Valmistui Gaylordin lukiosta v. 1932 Kandidaatin tutkinnot matematiikassa ja elektroniikassa

Koulutus ● ● ● Valmistui Gaylordin lukiosta v. 1932 Kandidaatin tutkinnot matematiikassa ja elektroniikassa Michiganin yliopistossa v. 1936 Maisterin tutkinto v. 1937 Massachusetts Institute of Technology (MIT) ● Tohtorin tutkinto v. 1940 ● Bell Labsilla töissä v. 1941 -1956 ● Sen jälkeen työskenteli MIT: ssä

Taustaa ● Isä tuomari ja liikemies ● Äiti kieltenopettaja ja rehtori ● Sukua Thomas

Taustaa ● Isä tuomari ja liikemies ● Äiti kieltenopettaja ja rehtori ● Sukua Thomas Edisonille ● Naimisissa Mary Elizabeth Mooren kanssa ● Kolme lasta

Luonteesta ● ● Oli kiinnostuneempi haastavista ongelmista kuin niiden soveltamisesta Yhdisti käytännön teoriaan ja

Luonteesta ● ● Oli kiinnostuneempi haastavista ongelmista kuin niiden soveltamisesta Yhdisti käytännön teoriaan ja havainnollisti usein tilanteita erilaisilla laitteilla ● Bell Labsilla rohkaistiin innovatiivisuuteen ● Myös taloudellinen menestys salli 'sooloilun' ● Julkaisi vain valmiita ja viimeisteltyjä artikkeleita, koska ei pitänyt kirjoittamisesta

Harrastukset ● ● Laitteiden rakennus Sirkusharrastuksia: hyppykeppihyppely, yksipyöräisellä pyöräileminen, jongleeraus ● Jongleerauskone jongleerausteoreema Shakki

Harrastukset ● ● Laitteiden rakennus Sirkusharrastuksia: hyppykeppihyppely, yksipyöräisellä pyöräileminen, jongleeraus ● Jongleerauskone jongleerausteoreema Shakki shakkipeliohjelma

Shannonin laitteita ● Theseus-hiiri ● Labyrintissa kulkeva mekaaninen hiiri Oppii reitin määränpäähän Oppii uuden

Shannonin laitteita ● Theseus-hiiri ● Labyrintissa kulkeva mekaaninen hiiri Oppii reitin määränpäähän Oppii uuden reitin, jos labyrinttiä muutetaan THROBAC-tietokone Syötteet, tulosteet ja operaatiot roomalaisia numeroita

Boolen algebra ● ● ● Maisterin työ Boolen algebraan liittyen pohjana digitaalitekniikalle Ajatus kehittyi

Boolen algebra ● ● ● Maisterin työ Boolen algebraan liittyen pohjana digitaalitekniikalle Ajatus kehittyi differentiaalikoneeseen tutustumisen myötä Boolen algebraa ja binääriaritmetiikkaa voidaan käyttää piirien suunnittelussa Releistä koostuvilla piireillä voidaan ratkoa Boolen algebran ongelmia Voitti Alfred Nobelin palkinnon

Informaatioteoria ● ● ● Ennen Shannonia käsitys viestinvälityksestä epämääräinen Sanoma ja sen lähetys koettiin

Informaatioteoria ● ● ● Ennen Shannonia käsitys viestinvälityksestä epämääräinen Sanoma ja sen lähetys koettiin kiinteäksi kokonaisuudeksi Artikkeli A Mathematical Theory of Communication v. 1948 muutti kaiken ● Yleinen viestinvälitysmalli ● Sanoman lähetys erotettuna kanavasta

Informaatiomalli

Informaatiomalli

Informaatioteoria - sanoma ● Lähetettävä sanoma on valinta jostain sanomajoukosta ● Sanomajoukkoon liittyy tilastolliset

Informaatioteoria - sanoma ● Lähetettävä sanoma on valinta jostain sanomajoukosta ● Sanomajoukkoon liittyy tilastolliset todennäköisyydet ● Esimerkkinä englannin kieli ● Sanoman sisällöllä tai esityksellä ei merkitystä ● Kaikki sanomat voidaan muuntaa biteiksi ● Bittimuodossa sanoma voidaan generoida uudelleen ja lähettää eteenpäin ilman virheitä.

Informaatioteoria – kanava 1/2 ● ● ● Kanavan kapasiteetti (C bittiä/sekunnissa) riippuu signaalin voimakkuudesta

Informaatioteoria – kanava 1/2 ● ● ● Kanavan kapasiteetti (C bittiä/sekunnissa) riippuu signaalin voimakkuudesta vastaanottimessa (P), häiriöstä kanavassa (N) ja kaistanleveydestä (W) C=W∗log(P/N+1) Kanavassa pääsee aina enintään kapasiteetin verran informaatiota läpi

Informaatioteoria – kanava 2/2 ● ● ● Kaikki sanomat voidaan lähettää kanavassa halutulla virheprosentilla,

Informaatioteoria – kanava 2/2 ● ● ● Kaikki sanomat voidaan lähettää kanavassa halutulla virheprosentilla, jos lähetysnopeus <= kanavan kapasiteetti Virheiden määrää voidaan kontrolloida Sanoma suojataan häiriöiltä koodaamalla se lähettimessä ja purkamalla koodaus vastaanottimessa

Tiedonsalaus 1/4 ● ● Shannon julkaisi vuonna 1949 tiedonsalaukseen liittyvän artikkelin Communication Theory of

Tiedonsalaus 1/4 ● ● Shannon julkaisi vuonna 1949 tiedonsalaukseen liittyvän artikkelin Communication Theory of Secrecy Systems Artikkelissa tutki salausjärjestelmää, joissa sanoman merkitys salataan, mutta sen olemassaoloa ei Oletetaan vihollisen omaavan kaikki tarvittavat laitteet ja taidot sanoman sieppaamiseen ja tallettamiseen Sanomassa diskreettejä symboleja

Salausjärjestelmän malli

Salausjärjestelmän malli

Tiedonsalaus 2/4 ● ● Kielen toisinto kertoo, kuinka paljon tekstiä kielestä voidaan poistaa informaatiota

Tiedonsalaus 2/4 ● ● Kielen toisinto kertoo, kuinka paljon tekstiä kielestä voidaan poistaa informaatiota hukkaamatta Esimerkkinä tapaus, jossa yksinkertainen korvaussalakieli ja satunnainen avain Tällöin englannin kielessä on 26! eri vaihtoehtoa korvata kaikki 26 eri kirjainta Periaatteessa kaikki vaihtoehdot yhtä todennäköisiä

Tiedonsalaus 3/4 ● ● Käytännössä todennäköisyydet vaihtelevat Vihollinen voi laskea todennäköisyydet erilaisille mahdollisille sanomille

Tiedonsalaus 3/4 ● ● Käytännössä todennäköisyydet vaihtelevat Vihollinen voi laskea todennäköisyydet erilaisille mahdollisille sanomille ja avaimille Salaus on täydellinen, jos salakieli ei selviä, vaikka vihollinen saisi siepattua näytteen siitä Toisin sanoen selväkielen todennäköisyysjakauma ei muutu, vaikka salakieli tunnettaisiin.

Tiedonsalaus 4/4 ● ● Vahva salausmenetelmä rakennetaan toistamalla muunnoksia tarpeeksi monta kertaa tilastollisen analyysin

Tiedonsalaus 4/4 ● ● Vahva salausmenetelmä rakennetaan toistamalla muunnoksia tarpeeksi monta kertaa tilastollisen analyysin vaikeuttamiseksi Käytettävät muunnokset ovat diffuusio eli hajottaminen, ja konfuusio eli sekoittaminen.

Yhteenveto ● ● Shannonilla monia mielenkiinnon kohteita Motivaattorina mielenkiintoiset ongelmat, ei maine ja kunnia

Yhteenveto ● ● Shannonilla monia mielenkiinnon kohteita Motivaattorina mielenkiintoiset ongelmat, ei maine ja kunnia tai raha Kehitti informaatiotekniikan ja loi pohjan digitaalitekniikalle Teki ensimmäisiä kokeiluja tekoälyllä