Emissionen Nr 3 2001: Snart bortglömd ... eller evigt ihågkommen


Claude Shannon

Grundaren av informationsterorin har gått ur tiden. Att Claude E. Shannons rapport från 1948 är grunden för informationsteorin är det inte många som känner till.

[Bild]

Claude shannon gick ur tiden 24 febrauri 2001, 84 år gammal. Shannon är ganska så okänd bland vanligt folk trots att hans forskning är grunden för informationsteorin och digital kommunikation och därmed för så vanligt använda saker som mobiltelefoner och CD-spelare.

Det sägs att dom som förstår Shannons rapport om informationsteori placerar hans arbete i nivå med Newtons och Einsteins.

Unga år

Claude Shannon föddes Michigan, USA, i april 1916. Som ung gillade han att leka med mekaniska saker, han byggde modelflygplan och en radiostyrd modelbåt. Han byggde även en telegraf till en kompis hus en knapp kilometer bort. Som liten var han också en stor beundrare av Thomas Alva Edison och som vuxen beundrade han även Newton, Darwin, Einstein och Von Neumann.

Universitetet

1932 började Shannon på Michigans universitet och 1936 tog han examen. Eller rättare sagt examina, en B.Sc. i elektroteknik och en till B.Sc. i matematik. Han fortsatte sina studier på MIT.

Shannons M.Sc. avhandling publiserades 1938 och handlade om hur man kan använda boolesk algebra för att analysera och syntetisera digitala kretsar. Fram tills Shannons arbete kom hade konstruktion av digitala kretsar varit en konstart, nu fick det sin teoretiska förklaring.

1940 blev han klar med sin doktorsavhandling och blev därmed doktor i matematik. Hans matematiska forskning omfattade både idéer inom datorområdet och idéer inom kommunikationssystem.

Helt klart en man med imponerande brett kunnande.

Under läsåret 1940-41 studerade Shannon vid Institute for Advanced Studies vid Princeton universitetet och det var nu som han verkligen började arbeta med sina idéer om informationsteori och effektiva kommunikationssystem.

Bell Labs

Efter sina studier vid Princeton började Shannon jobba vid klassiska Bell Laboratories och här blev han kollega med att antal andra framstående forskare som Harry Nyquist, han med diagrammet; Hendrik Bode, mest känd för att ha arbetat med återkopplingsproblem. Andra kända personer som jobbade vid Bell Labs är transistorns uppfinnare Brattain, Bardeen och Shockley.

Vid den här tiden forskade Claude Shannon inom många olika område men mestadels inom informationsteori.

Informationsteori

1948 publicerade han A Mathematical Theory of Communication. I den publikationen visar Shannon att alla informationskällor – som telegrafnycklar, folk som pratar, tv-kameror och liknande – har ett källflöde som kan mätas i bit per sekund. (Shannon tyckte att binary digit var för långt så han kortade uttrycket till bit.) Kommunikationskanaler har en kapacitet som kan mätas med samma enhet. Information kan sändas över kanalen endast om informationskällflödet understiger kanalkapaciteten.

Kryptografi

Året efter publicerade Shannon Communication Theory of Secrecy Systems där han jämför kryptografi med kommunikation via en brusig kanal, där signalbruset är krypteringen med hjälp av systemets krypteringsnyckel. Det arbetet ledde till att han senare kom att bli utsedd till konsult åt USAs regering när det gällde kryptering och kryptografi.

Inte så allvarlig ...

Det vore lätt att tro att en person som gjort så många framstående insatser inom forskning är en mycket allvarlig person men när det gäller Claude Shannon så kan det inte var mer fel.

Betty, hans fru, gav honom en enhjuling i julklapp ett år. Inom några dagar så cyklade han runt kvarteret, inom några veckor så kunde han cykla och jonglera samtidigt och efter några månader så byggde han egna cyklar. Fast lite ovanliga förstås, som cykeln med exentrisk hjulaxel så att den som cyklar på den åker upp och ner när han trampar iväg. Han höll sig förstås med en enhjuling på kontoret på Bell Labs och cyklade lite då och då omkring i korridorerna. Bland de många leksaker som Shannon byggt så finns en maskin för att lösa Rubriks kub.

[Bild]

Datormus

Theseus, som Shannon byggde 1950, är en magnetisk mus i naturlig storlek som klara att leta sig igenom en labyrint. Labyrinten kan ändras godtyckligt och musen letar sig genom gångarna tills den hittar det godtyckligt placerade målet. Om musen har letat sig genom labyrinten en gång så kan den placeras var som helst som den varit och letar sig då direkt till målet.

Nu har inte Theseus hjärnan och musklerna i sin kropp utan dom finns under botten på labyrinten. Hjärna består av en krets med cirka 100 reläer och musklerna är ett par motorer som flytar en elektromagnet som i sin tur flyttar musen genom labyrinten.

THROBAC

Thrifty ROman numerical BAckword looking Computer är en räknemaskin kan göra all dom aritmetiska beräkningarna men med den lilla egenheten att den räknar med romerska siffror.

Kanske inte så användbart idag, men dom gamla romarna hade nog gärna sett att dom hade en sådan räknare!

Ultimate Machine

Efter en idé av Mervin Minsky så byggde Shannon the ultimate machine. Maskinen består av en liten trälåda, till storlek och form ungefär som en cigarask, med en ensam strömbrytare på framsidan.

När man trycker på strömbrytaren så hörs en arg ringsignal. Locket reser sig sakta och ut kommer en hand. Handen sträcker sig ned och slår tillbaka brytaren i avstängt läge och försvinner sedan tillbaka in i lådan. Nästan som om det var ett kistlock sluter sig locket på lådan, ringsignalen upphör och tystnad råder igen.

Om man inte vet vad som väntar så är det en ganska skrämmande sak, en maskin som inte gör något – utom stänger av sig själv.

1 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000 000

Datorschack

Redan 1950 publicerade Claude Shannon en artikel om datorschack, Programming a Computer for Playing Chess, och den artikel kom att bli grunden för allt vad datorschack heter. Han beskrev hur en schackdator skulle behöva värdera och välja framtida schackdrag, och även hur många drag framåt som den skulle behöva beräkna.

Schackproblemet är mycket svårare än man först tror. Om vi tänker oss att vi är en bit in i en schackparti så har vardera spelaren 30 till 40 olika möjliga drag. Om båda spelarna gör var sitt drag, så kan schackbrädet förändras på drygt 1000 olika sätt, efter två drag av vardera spelaren så är det drygt en miljon olika sätt, och efter ett tredje drag drygt en miljard olika sätt. En analys visar att det finns ungefär 10120 unikt olika möjliga schackpartier. Det kan jämföras med att universum är i storleksordningen 1010 år gammalt. Uppenbarligen så måste en schackdator ha någon form av inteligens som gör att den väljer smarta drag.

Magnus Erixon

Informationsteori

Forskningsområdet etablerades 1948 då Claude Shannon publicerade sin uppsats A Mathematical Theory of Communications, vilken var så revolutionerande att kommunikationsspecialisterna först gradvis förstod att en ny vetenskap sett dagens ljus.

En av grundtankarna inom informationsteori är att information representeras av symboler, dessa symboler förekommer med olika sannolikhet. En annan grundtanke är att all telekommunikation är digital och består av att alstra, överföra och ta emot information.

Shannon visade att informationsöverföring från en källa över en kanal kan delas upp i två delproblem. Dels källkodningen som handlar om hur informationskällans utsignal ska beskrivas med en följd av binära siffror, dels kanalkodningen som handlar om hur man överför informationsbärande symboler över en kommunikationskanal.

Källkodning

Om man ska skicka ett meddelande så använder man källkodning för att reducera meddelandet till så få binära siffror som möjligt. Shannons källkodningssats, som blev mycket välkomnad och snabbt accepterad, säger att varje källa kan beskrivas med parametern H vilken anger hur många binära siffror per tidsenhet som källan producerar. Man säger att H är källans entropi. Vi kan representera källan med godtycklig noggranhet med R bitar per sekund om R>H.

Kanalkodning

Shannons kanalkodningssats säger att varje kommunikationskanal beskrivs av en parameter C som är kanalkapaciteten. Om vi skickar ett meddelande med R slumpmässigt valda bitar per sekund så kan dom passera kanalen med godtyckligt hög noggranhet om R<C, men om R>C så får vi problem. Shannon visade också att om R<C så påverkar inte signal-brusförhållandet kommunikationen utan det är enbart kodningen av informationen som är avgörande. Han visade även att informationen bör sändas i långa sekvenser så att varje informationsbit ger liten påverkan på många av de binära siffror som sänds över kanalen. Shannons idéer gav världen ett nytt forskningsområde kallat kodningsteori.

Magnus Erixon
Källa: NE

Kryptologi

Kryptologi är matematiska metoder för säker kommunikation. Under närmare tvåtusen år har militärer, diplomater och spioner använt sig av kryptering för att säkra kommunikation men under 1980-talet uppstog även ett civilt behov av säker kommuniktion. Det var då huvudsakligen geografisk spridda banker, industrier och även myndigheter som var beroende av elektronisk informationsöverföring. Både Claude Shannon och Gustavus Simmons har gjort banbrytande insatser inom kryptologin. Shannon publicerade 1949 rapporten Comminication Theory of Secreecy Systems om sekretess.

Kryptografi

Vid kommunikation via en osäker kanal, till exempel radio eller en kanske avlyssnad telefonförbindelse, behövs metoder för att garantera behöriga användare, det vill säga sändare och mottagare, sekretess och/eller autenticitet. Ett liknande problem finns vid lagring av information i en datafil som är åtkomlig för flera användare, även där kan man vilja uppnå sekretess och/eller autenticitet.

Sekretess uppnår vi om vi kan styra så att bara den behöriga mottagare kan tolka det sända meddelande. Autenticitet når vi om mottagaren kan försäkra sig om att ett meddelande kommer från den behörige avsändaren.

Säkerhet uppnås genom att ett klartextmeddelande översätts till en krypterad text, även kallat kryptogram, med hjälp av en krypteringsalgoritm och en nyckel. Krypteringsalgoritmen kan vara allmänt känd men krypteringsnyckeln ska bara vara känd av dom behöriga användarna, det vill säga sändare och mottagare.

Kryptoanalys

Kryptoanalys är vetenskapen om hur man forcerar krypterade meddelanden utan att ha tillgång till kryptonyckeln.

En kryptoanalytiker antas ha den krypterade texten, kryptogrammet, och även ha kännedom om klartextens natur och vilken typ av krypteringalgoritm som har använts. Klartextens natur är exempelvis statistik för språket som meddelandet är skrivet på; vissa bokstäver förekommer ofta andra sällan, vissa bokstavskombinationer är vanlig andra förekommer aldrig. Den enda informationen som antas vara tillgänglig för den behörige mottagaren men inte för kryptoforcören är den använda kryptonyckeln.

Magnus Erixon
Källa: NE


Emissionen är Konglig Elektrosektionens tidning vid KTH.

Valid

W3C html, W3C css, WAI aaa.