DAVID Malan: Добре, добре дошъл отново. Това е CS50, и това е началото на седмица 10. Така че, за последните няколко седмици, ние сме търсили на доста ниско ниво как интернет работи. TCP / IP, HTTP, езикът [? върха?] които сме започнали да се изгради интересен неща в езици като HTML, CSS, PHP, и най-скоро JavaScript. Днес, обаче, сме присъединиха Джонатан Зитрейн, професор в Harvard Law School, в Harvard Kennedy Училище и Харвардското училище за Инженеринг и приложни науки, които последно преподава курс на име Computer Science 42, Контролинг Cyberspace. Днес, ние сме на път да сега разгледаме един много по-голяма картина, и несъмнено е малко от това колко живота, вселената и всичко работи, с нашия приятел, професор Джонатан Зитрейн. Джонатан Зитрейн: Благодаря ви, Давид и добър ден. Вие се намирате в един невероятен Разбира се, както знаете. Вие сте apprenticing на набор от технологии, които са наистина необичайно, и аз искам да говоря днес за това, което ги прави толкова необичайно, защо ние трябва да грижа за него, и затова те могат да бъдат се развива в бъдеще в посоки че не ни харесва. И дори може би и какво да направя за него, въпреки че осъзнавам, имаме около 49 минути и 30 секунди все още, така някои ъгли може да се реже. Може би една рамка да се мисли за тези неща са технологии като собственост и безстопанствен. И аз искам да обясня какво имам означава по собственост и безстопанствен. Най-технология в света е собственост, и аз ще дам няколко примера за това. Но в интернет се оказва, че е безстопанствен технология, и който може да направи цялата разлика. Така че тук са някои притежавани технологии. Това е IBM System/360. Това е сериозен обратно компютър в своя ден, и както можете да видите, всичко за него излъчва че е по-добре да не ходи никъде в близост до нея. Това е вид компютър, който седеше в мазето на една голяма компания - актюер, застрахователно дружество, банка, или може би правителството сверяване преброяването. И това е програмиран, обикновено, от продавач, който управлява машината, в този случай IBM. И това е така, защото, макар и да е общо компютърно цел, тя може да бъде програмиран или препрограмирани, че е толкова скъпоценни и деликатен, и част от Бизнес моделът на IBM е да се запази че с изключение на потребителите си. Може би вместо да каже това, което IBM искаше, а след това те ще вървим напред и го програма за вас. Не е лоша сделка, но много собственост технология в смисъл, че знаем кой е отговорен за това, и на кого да виновен, ако нещо се обърка с него, и това означава, че ние няма да получи, че изненадан от това, защото всички са толкова внимателни за това, те използват компютъра за. Сега, това са видове неща, които влязоха в него. Това са, разбира се, старомоден перфокарти, и представени тези, отново, че можете да програмирате машина по никакъв начин, че искаш, така че стига да може да се доближи до него, което отново, най-общо, че не можеш. Това е друг вид технология която също е собственост. Това е Flexowriter Friden. И Flexowriter Friden беше като стандарт пишеща машина, и както си ги написал, буквите изглежда на хартия, но също така ще направи за малко вдлъбнатини в тази лента , която минаваше през него. И на лентата, ако пуснат обратно чрез пишеща машина като пианист, би напишете каквото имаше преди това е направено. Което означаваше, че с достатъчно ножица и лепило, в действителност можете да изрежете и поставите своя път към създаването на циркулярни документи по-лесно, отколкото можете да с Microsoft Word. Така че, Flexowriter беше много готино. Беше много достъпни. Той не заплашва да електроударят ти ако отидеш в близост до нея. Но няма място да се сложи един удар карта, за да го каже какво да правите. Единствената технология удар е данни. Напишете това, което виждате, или той генерира че лентата, докато пишете. Няма по код. Има само съдържание с Flexowriter, и неговите наследници са това, което в света на 1980-те и 1990-те се очертава да бъде за информация технология. Това е Brother Смарт Word Processor. Обръщаш това нещо, тази е неговата началния екран. Къде бихте искали да отидете днес? Word, електронни таблици, и така нататък, и така нататък. И начина, по който това нещо работи по Сряда, че е точно такъв, какъвто работи във вторник и беше начинът, , че ще работи, докато Вие се отървах от него. Това не е програмируемо. Отново, това само разглеждат данни, и това е на собственост технология, защото как тя ще действа много се е артефакт от това, което Brother хората слагат в нея. Ditto, може да се надяваме, за машина CAT сканиране. Искаш ли да работи точно както е е проектирана, въпреки че те са леко препрограмируеми в на IBM System/360 начин. Отново виждаме някои рискове, някои неприятни изненади, които биха могли да ако имате грешка програмиране хора си CAT скенер, като всъщност се е случило в последните няколко години. Но сега, част от тази CAT скенер е малка част от това, което бих описал като безстопанствен технология в средата на него. И това е персонален компютър. Така че нека да погледнем на безстопанствените технология че седнах да пиша неща. Това е Стив Джобс в West Coast Computer Faire през 1977 г., както е описано 10000 ходене, говорене компютърни изроди. Това беше твърде незначително, но добре присъстваха, и това е, за първи време в ръцете на потребителите, а препрограмируеми машина. Можете да получите вашия Apple II. Го включите, след като кука да, Да, телевизора си, и ще получите мигащ курсор. И това е до вас да разбера какво да правя. Когато получите Apple II от полето, това е вратата спиране. Това е само, когато правиш такива неща като 10, отпечатайте здравей. 20, отидете до 10, че наистина забавно започва. И трябваше много и много хора пристъпи напред, за да програмирате им персонални компютри, предназначени като любители машини. До две години сте имали Dan Bricklin и Боб Frankston от района на Бостън, програмиране на първия цифров таблица някога, VisiCalc. И изведнъж, фирмите в страната над бяха като: О, Боже мой, електронни таблици. И те започнаха да купуват Apple II компютри. Те летят от рафтовете, и Apple трябва да направи проучване на пазара, за да разбера защо това нещо е толкова популярен. Това е, което прави настоящия безстопанствен технология. Не си го купите от Apple, но Apple очаква от вас или Боб Frankston или или някой да го програма по-късно. И ако Apple не прави таблица така, както искате, не е ясно, че това е вина на Apple. Той е безстопанствен в случай че тя приема вноски от всеки, който има Moxie и умения, за да го програма, който да споделите тази програма с някой друг. И този модел става модел за всичко, което последва. Това е Бил Гейтс две години, след като той отпаднали от Харвард, и той е спрях за трафик спирка в Албакърки, Ню Мексико. Можете да видите на модата беше различно тогава. И той няма да има усмивка на лицето си, някак си, знаейки, че той може да се купи и продаде всички ни някой ден. И той е в състояние да вземе това, което е работа и да я тури в, може би, MS-DOS или по-късно, Windows. Като цяло, обаче, този формат, който е, ви дам това нещо код, той може да започне с мигащ курсор, но След това тя ще върви на кода. И това е вярно за много PCs доскоро. И това е вярно, тогава. Това нещо е вероятно около 1992. Аз го поставете поради на 66 светлина тук. Тя има бутон, който може да се редуват между 66 и 33, което е скоростта , при която вътре чип би трябвало да работи. Може би се чудите, защо не оставите тя бързо през цялото време? Това е, защото тя няма да се уморя на хамстери вътре в себе си, ако сте направили го изпълним твърде бързо. И Принцът на Персия ще бъде прекалено бързо, както добре. Виждам, между другото, те вече имат хамстер електро дробилки хартия. Така че можете да поставите хартия в горната част, и тогава хамстер работи на колелото и късчета хартия, а след това може да живеят във вестника след това. Така че всичко това е част от цикъла на живота. Както и да е, тези неща може да направи никакво код, който го даде, и че е основно значение, но все още контингент, парче на технологията. Тя не трябва да бъде по този начин. Може да е бил на Brother Смарт Word процесор, и като хора на Brother или техните конкуренти измислят нови неща, те го пусне като всеки потребителски продукт. Това не е до вас да се сложи една седма Острието на вашата безопасност бръснач. Ще чакаме Gillette да кажа, ако пет е добър, защо не седем? И тогава ние го получи, а ние го купя. Това е различно. С модерната революция PC, за последните 30 години, те предам на компютър код, който сте написали или придобили от някой друг, то ще се проведе на кода. И това промени всичко. Това е, което довело до изключване на шелф независима движение софтуер. Така че можете да си купите компютър, за който цел, и след това да го използвате за каквато и Редица други цели. Или брат ти би могъл, или си дете може, или нещо друго. Тя не трябва да бъде по този начин, но това Оказа се, да бъде по този начин, след като всички открили колко открития може да дойде, ако просто пусна технология мигащ курсор стил и разбра, че светът щеше да изгради готини неща. Така че това е, за мен, същността на безстопанствен технологии, и аз просто искам да подчертая, че не го направиш трябва да бъде по този начин. Ако пренавит време и да го възпроизвеждат Отново, това не е ясно за мен, че ние ще се окажете с безстопанствените технология в основата на нашия потребителя с компютъра. Сега, в мрежата страна, има е подобна трансформация. Тя започна в собственост пространство. AT & T се завтече дългосрочен система въздух, и това е, че и работи доста добре. А цените са това, което бяха, и регулатори дойде , за да се определят цените. И AT & T претендира да контролира цялата мрежа. Така че обратно в началото на 20 век, когато един предприемчив човек изобретил това, Hush-A-Phone, това е нещо, че ще отиде над телефонна слушалка, така че вашият човек за който говорите да не слушаха външния шум. И никой не можеше да чуе това, което бяха казвам ви събеседник. AT & T каза не, ние трябва лиценз, който, защото това може да повреди нашата мрежа, и че целели да блокират хората, които го използват. Това е епохата, между другото, в която Телефоните са били наети от AT & T. Вие не може да отиде до магазина и да си купите телефон. Трябваше да го получите от вашия телефон доставчик на услуги. Това продължи нагоре и надолу, Федерална Комисия по съобщенията. The FCC подкрепени AT & T. Отне Върховният съд решение, в крайна сметка, да преодоляване на. И светът е свободен да имат телефон приглушен, но нищо повече. Това имаше своите наследници. Обратно, в деня - и аз сега означава вероятно средата на 80-те в началото на 90-те години - има услуги като CompuServe. Това щеше да бъде най- бъдещето на мрежи. Той имаше конкуренти, като Prodigy, и AOL, и източника, и MCI Mail. Но основно, платена от месеца, и след това имаш рационално меню на неща, които може да искате да направите. Къде искаш да отидеш днес? Но това меню е произведено от CompuServe. Ако там щеше да бъде нещо ново върху него, ще го вземете от CompuServe. И ако някой там бях като, Мисля, че трябва да има VisiCalc бутона, което е добре да убеди CompuServe от стойността си, или тя би Никога не е достъпна за някой ползване на услугата. Така че това е пример за IBM 360 или на Flexowriter модел на технологията за работа в мрежа. Това стане издухан от водата, неочаквано за почти всички в областта, от това академични изследвания мрежа, известна като интернет. Това са три от основателите, на снимката Оттук на интернет - съученици, се оказва, че в Van Найс гимназия в Калифорния. Има Джон Постел и Стив Крокър и Винт Сърф, показващо тяхната 25та снимка годишнина ретроспективно за Newsweek, че може да се изгради мрежа от почти всичко. Въпреки че, както ще видите, им мрежа не работи. От само себе си от ухото си до ухото си, и уста на уста, което се надявам е вътрешна шега, отколкото основателите на интернет не знам как да кутии струнни калай заедно. Но можете да видите, че те построяват мрежа, защото те не са имали много на пари и не може да го пусне FedEx стил, с много хора работи за тях. И тъй като те не са били възнамерява да правят никакви пари от него, те построяват мрежата, която е безстопанствен, чиито точки ще бъдат съответно притежавани или управлявана от кой знае кой, а може би там дори ще бъде поемането. MIT ще се качват на гърба BBN да получите своята пакети върви напред и назад. Но безстопанствен като общо нещо - това, което те изградени са протоколи да поставят Интернет заедно по начин, че не е имало CEO. Не е имало главното меню. Тя просто е. И това е толкова необичаен начин на правене играта, както в метода и в същество, че в продължение на много години, IBM обичаше да казва, че не можеш евентуално изграждане на корпоративна мрежа с помощта на TCP / IP. И затова интернет инженери казват че техният талисман ще бъде пчела, защото козината да размах на крилете Съотношението на пчела е твърде голям, за да бъде в състояние да лети, и И все пак, като по чудо, пчелата лети. Оказва се, че най-накрая открили как пчелите летят през 2006 г., благодарение на масивна държавно финансиране. Оказва се, те махат с крилата много бързо. Така че начина, по който интернет работи е вид като начин на бирата намира своя път наоколо в Fenway Park. Някой попита за бира, но има не бира дистрибуторска мрежа граница до последната стъпка и малко. За това човек трябва да предаде бира с малко дете да седи на края, който след това преминава. И в риск за всеки един от нашите панталони, ние правя това, защото ние стоим заедно да позволи на забавно поток. И това е в основата на начина, по който пакетът мрежа работи в интернет, където има лица в интернет работа с вашите пакети, тъй като Сложете ги препредават от една точка до друг, които нямат договорни отношения с вас, нито с крайната дестинация. Това е като вложени матрьошка кукли, как ще върви наоколо. Основният формат е това, и може да се са се научили малко повече за него. Тя се нарича пясъчен часовник архитектура, и то се казва, че не слагам интелектуалната собственост, но интернет протокол, в средата на Hourglass тук. Това е, което инженерите работят върху и той е проектиран да бъде напълно вселенски, поради което той е широк в горната и долната част. На върха, ние позволи на всеки брой приложения. Кой знае какво някой е ще изгради върху него. Това е точно като мигащ курсор. Интернет е просто цел да се вземе точки на присъствие и маршрут пакети между тях използват най-добрите усилия. Това е всичко. Това е всичко. Това не е набор от приложения. Това е само в мрежата. И тогава всеки може да се изгради приложения в началото на това, и нека по- най-добрите приложения печалба. А отдолу, по който е трябвало да бъде Вселенски за това, което хардуер, което ще използвате. Каквото и хардуер искате да използвате, бум. Можете да го донесе на страна, толкова дълго тъй като тя говори интернет протокол. И няма авторски права твърди в Интернет протокол, и като промени са , отправена към него, вие сте свободни да ги приемат или не. Като производител на оборудване или като доставчик на мрежови услуги, и да е, в действителност, колективни халюцинации, но много устойчив и мощен. И идеята е, не правят мрежата умен. Не поддържа добавянето на функции. В противен случай, ние ще бъдем в анимиран фаза кламер на интернет. Ние не сме, защото ние никога не добавя много функции в него. Вместо това, той просто трябваше да маршрут и нека крайните точки - умните неща в края, като персонални компютри - се справят с всички функции, които искат, като като шифроване, като обратна разписка, всички тези неща трябваше да да бъде само ако имате нужда от тях. Сега различна David - това е Дейвид Clark, които допринесоха за последната хартия - различен Clarke, Arthur C. Кларк, дойде с това, което той нарича третия закон. И това беше: "Всяка достатъчно модерна технология е, неразличима от магия. "Той беше всъщност назаем от предишна писател на научна фантастика, Leigh Бракет, който го малко по-малко любезно. "Магьосничеството на невежите - проста наука към научили. " И аз го кажа, че част от CS50 е да се премине от една категория в от друга страна, така че можете да започнете разбиране неща, които изглежда като магията на другите. Включа Flexowriter и магически, то паунда на реферат, че Аз преди това записва. Ти си обучение за червата на технологията. И това са безстопанствените технологии, както на крайна точка и в мрежата, които ви позволяват да вземат това, което сте научих и просто по едно кръгче. Опитайте го. Виж, ако можете да промените света по някакъв начин. И тя ще изглежда като магия за другите, но вие се учите тайните на да го прости наука. Един такъв човек, който е направил това на енти степен е сър Тим Бърнърс-Лий. Той е написал един апартамент, наречен в Мрежата, и това означава, че той е написал протоколи. Това е като, хей, ако искате просто да превозва файл на някого, но го има правят в кликване връзки и снимки и такива неща, ето как можете бих го направил. И сега съм програмиран за сървър и клиент. Така че, добре, света, тук е вашият уеб. Отидете на града. И невероятно, на света направи точно това. Tim твърди, не патент, не авторското право в него. Той го подари. И в интернет е вторият голям безстопанствен, колективна халюцинация, че имаме, което е и причината, ако има проблем с един сайт, не може да се на Изпълнителния директор на Мрежата и да му бъде свалена. Няма такъв човек, и няма главното меню за уеб, точно обратното на AT & T или CompuServe. Това е също така, след това, миг, вероятно около 1995, или така, когато Windows, която не е имала средства за свързване с интернет протокол, имам най-накрая закачен до него, благодарение на този човек, на име Tattam. В Университета на Тасмания, в психология отдел, той е написал нещо, наречено Trumpet Winsock. Това е, защото той обича тръбите. Това е той. И Trumpet Winsock беше малко шайба, който свързва вашата Windows 95 или 3.1 в уеб и интернет. И изведнъж всички бяха като, Майко мила, това е страхотно. И Tattam току-що каза, добре, ако ви харесва това, можете да ми изпратите някакви пари, но иначе е напълно зависи от вас. И това е, как вие започнете да получавате невероятно съдържание на ниво безстопанствен технология като на разстояние, като catsthatlooklikehitler.com. CompuServe е малко вероятно да се сложи на си главното меню, и все пак това е а клик разстояние на този уеб, с достатъчно хората сега са свързани, че имат котки и че знам достатъчно, за да качите снимка от тях, които можете да получите тази невероятен номер четири Kitler, които е точно като, аз не знам как ще се върне у дома това всеки ден. Той също така ви позволява такива неща , че са луди, като Wikipedia, се създава. Представяте ли си, през 2001 г., някой си Джимбо, който ви казва, че имам страхотна идея. Започваме с 20 членове, а след това всеки може да редактира всичко, и преди да го знаете, ще имаме невероятно полезен източник. Колко хора са използвали за Wikipedia медицинска помощ по директен начин? Точно така. А останалата част от вас са не го признава. Това е невероятно, имайки предвид как е започнал и как той се запази, от никого можете да редактирате всеки артикул по всяко време. В този смисъл, това е безстопанствен технология на съдържанието слой на пясъчен часовник, може невероятни неща. Толкова популярни, всъщност, че сега е появяват на китайски менюта ресторант. Не съвсем сигурна защо. Имам теория, но ние нямаме време. Така или иначе, тези безстопанствените технологии може да приключи до което се получават нови безстопанствен технологии и съдържание в други слоеве. И ние в крайна сметка с невероятна експлозия сме виждали през последните 30 години. Incredible, мощен, все още контингент, най-вече защото, както по- и повече хора го използват, да започнете да виждам, че си струва да подкопава. Дали да се измама хора или за собствения си цели, тези технологии, които зависи от някаква мярка за доверие и репутацията може да се стане много, много ограничен. А фактът, че ние не сме акредитиране хора, които имат принос - някой може да напише нещо, дори ако сте от Тасмания - че готино нещо може да се превърне в проблем. Така ние виждаме, като цяло, а движението от притежавано неща, с въвеждането на в интернет и в интернет, на безстопанствените зона. Но след това, вие започвате да виждате някои приложения самите те стават фундаментални, а някои от тях може на свой ред да бъде собственост, и те започват да изглеждат като нови CompuServe. Така че има малко странно цикъл става, тъй като хората подслон и потърсете стабилност и последователност и сигурността и основните менюта. И след като започнат да получават тези, и някои хора и организации започват да наистина да получите мощен в пространството, те съвсем естествено може искам да отстояват контрол. Така че нещата, които може да направите, за да бъде отворен, те, от своя страна, може да започне да се затвори, ако тя се вписва техния бизнес модел, за да го направя. Това са, разбира се, няколко копия на тези видове неща става, като обикновени приложения стават фундаменталните платформи и започват дърпа назад. Но това е много повече от предприемаческа история. Има един по-съществен проблем ще на, която е във всички неща, работи на тази наистина готино PC може да имате имат, чието потекло проследява до 1977 г., това, което се случва, ако само един част от този код е лошо? И се оказва, ужасни неща могат да се случи, защото всяка част от код написана от някой работи на вашия машината като цяло е имал ключовете за царството. И това е нещо като Принцесата и граховото зърно. Само един проблем на компютъра, може да развалят повече от добър сън през нощта. И това е нещо, което на музика промишлеността, открити при те са произвели компактния диск, преди да имало компютри. Те произвежда това за уред с размер свят. На компакт диск имаше цифрово качество музика върху него, прочетена от CD плейъри. И CD плейъри са в много сложно споразумение с музика производители, така че той дори не Хрумна тях да се сложи на всяка форма на криптиране на диска. Защото кой би го разшифровате? Как би потребител го разшифровате? Е, оказва се, след като започнете пускането CD-ROM и CD читатели в персонални компютри, Всеки може да го дешифрирате, и , което води до проблеми. В действителност, промишлеността за кратко се опита да използвайте reprogrammability на PC като функция, а не, за тях, е грешка, когато са започнали пускането кода тези CD-та, така че, ако се зареждат в компютъра, кодът ще тече и се опитайте да защитите компютъра от копиране на това, което е на CD, като срещу на желанията на потребителя, като просто гледам, по всяко време, да видим дали ще някога ще се опитам да се откъснете от CD. Това се нарича корен, и това не е много популярен, когато е установено,. И те започнаха излет които трябваше CDs този софтуер, който ще се вози на върха, зареди самата на вашия компютър, и да откаже да напусне, дори и ако вече не харесва музиката. Това е тази, в която тя е разкрита, от начина, по ирония на съдбата Махни го нарича с Man. Това са ми най другите три руткит CD-та, The Invisible инвазия, За съмнителни операции и здравословно в Paranoid Times. Както и да е, това е пример за компрометиране на принтера от доверие, или не толкова голямо доверие, партньор. Но тези неща ще започне да излиза от дивата природа, и ти свърши с неща Харесва Worm буря през 2007 година. Това е една от Biggies и виждате цитати като този. "Той може да започне атаки срещу тези, които се опитват да го разбера. Той знае, и да го наказва. Учените се страхуват. Никога не съм виждал това преди. " И вие сте като това е Network World, или вътрешната? Това е нелепо. Как тя е толкова зле? И това е, в действителност, придобили по-лошо и по-лошо. И тъй като сме виждали повече и повече сложен злонамерен софтуер, ние започваме да осъзнават, че само един лош ход може да приключи съсипват неща за всички. И ние наистина не са добри защити изчислено за него все още, и че е Истинският проблем. В действителност, само днес беше съобщено, че вируса Stuxnet е намерила път към Международната космическа станция защото някои руснаци имаше USB памети заразени с него. И сега на космическата станция е слезе с проблема. Това е доста невероятно. И това е ирония, също, защото това е преди няколко години, че някой от Microsoft се посочва, че зловреден софтуер става толкова лошо, че веднъж имаш я, там е основно няма начин да се извърши екзорсизъм на вашата машина. Това е този прекрасен цитат, който казва: Наистина това, което трябва да направите е бомбата на системи от орбита, която започва да се доста сериозно нещо да направите, за да почистите Вашето устройство на вирус. И ако вече сте в орбита на космическа станция, не знам какво е ще се случи. Така че, така или иначе, това е истински проблем. И основният проблем е това, на един льохман Cap'n Crunch е съдийски сигнал награда в кутия на Капитан Крънч зърнени култури в началото на 1970. След като сте захаросани детето си, защо не съм я работи около къщата и взриви свирки? Това е идеалното награда. Но се оказва, че ако ви е предмет една дупка на свирката след извличане го от кутията и духна, тя излъчва тон на 2600 херца, което е точно на тон, използван от AT & T, монопол телефон доставчик в време, за да покаже празен ред. Вдигни телефона, удар съдийски сигнал, да се измъкне междуселищни телефонни разговори. Кутии за зърнени Cap'n Crunch излитането на рафтовете. General Mills няма представа защо. И се оказва, че има нов трета страна ап за хлебният им. Сега, това е истински проблем за AT & T, но те имат собственост мрежа, която означава, че те може да се поправи. Което те са направили. Те се оказаха извън лентата за сигнализация, , така че данните е различен от код, и нямаше нищо, което може да пусната в информационния канал - на глас - че може да промени начина, по който мрежата работи. Интернет е безстопанствен и не може да да бъдат така лесно фиксиран. Самите канали, които носят нашата музика, нашата електронна поща, ни танци хамстери, са също така и канали, които да изпълним код за мрежата себе си, така и за крайните точки. И ние не искаме да го всеки друг начин, освен, че сега сме в сериозна дилема, тъй като щракнете на нещо погрешно, и сега всичко е свършило. И ние дори да започне, за да видите неща като инсталирани преди дори да го извади на кутията. Той е компрометирана в един или друг начин, и се опитвам да разбера, като се взираш в полето си, независимо дали е вече компрометирана, е безнадеждно, безнадеждна задача. И се опитай фигуриращ същото за нещо те уредя тази кутия до това междинни рутери и така нататък. Което е една от причините, защо аз мисля, че хората са много озадачен от перспективата, че тяхната уеб камера лаптоп може просто да бъде включен от някой, който има компрометирана машината, и разглеждане на всичко. Не знам колко от вас сложи Post-то, обърнете внимание върху вашия лаптоп уеб камера. Аз не виждам никакви ръце. Оказа се, че това е евтин защитна характеристика, и аз го препоръчвам, защото да започнете да се види, че това е така наречените RAT - отдалечен достъп технология. И тук е датско семейство се гледа. Това е от гледна точка на хакер, който е влязъл в тяхната машина и да ги гледа, тъй като те са компютри, може напълно да контролира на машината, да гледате какво се случва. Тук е полицай, чиято машина в състава си кола беше компрометирана. Така че можете да гледате на полицията офицер става наоколо. Предполагам, че можете да видите, ако той идва да къщата ви да ви арестуват за това. Там е чат стая, където те са говорим за това явление и изумен, че те имат успя да направи това. Това е вид неща че го прави трудно да се здрави в параноични пъти. Можете да добавите до тези неща - навсякъде те видя PC, включително CAT сканиране машина, сега започват да се притеснявате за лош код се близо до него. И това се превръща в донякъде отчаяно заплаха. И мисля, че ние трябва да признаем, че заплаха, защото това вече се променя естеството на безстопанствените технологии които в противен случай аз съм възхвалява. И така, какво ще правим с него? Е, тук е една бърза обиколка на някои възможни решения. Мисля си чрез ос между притежавано един безстопанствен в дадена среда, и след това йерархия и полиархия. И йерархия означава, че има само един избор за вашето решение. Всеки е обвързан с един субект че прави нещо. И полиархия означава, не, не, няма много избор и конкуренция. И аз ще ви дам няколко примера да се оправи това. Но първо нека да разгледаме отговорите на киберсигурността проблем, квадрант от квадрант. Така че нека да погледнем на безстопанствените полиархия един, който мисля, че е основно анархия. Това означава, че си по своему. Късмет. Има много неща, които можете да направите. Опитайте се да изберете най-подходящия, и Просто правим най-доброто, което можете да защити това, което имате. И това, мисля, че е чудесно, ако се случи да бъде нинджа. Това не е толкова голяма, ако не сте. И това дори не е чудесно за нинджи, защото всеки ги моли за помощ и те се отегчават. Така че започнете да виждате неща като тази, предназначена да ви помогне да реши какво да прави. И ако видите нещо подобно - Не знам колко често ще виж прозорци като този - това е събота вечер, вие сте щракнете върху около. Колко от вас, когато видите прозореца като този клик, продължи? Много ръце. Колко щракнете върху Отказ? A двойка. Точно така. И след това щракнете върху Отказ, а ти си когато сте започнали. Ти си като, но аз исках да вижте Денс Hampster. Така че след това кликнете върху Напред, и си отиде. Това просто не е ефективен начин за осигуряване на нещата, и това ми напомня на този имейл получих преди няколко години предупреждение Harvard Law School факултета и персонал на въстанието на измамни имейли в юридическия факултет, както и всички неща, които трябва да се направи, така че ако сте кликнете върху нещо погрешно, че не си напълно прецакани. И това е просто смешно как много, което трябва да правя всеки път, когато видите имейл. Това е любимата ми, между другото. "Да се ​​уморят от имейли, които имат правописна грешка, лоша граматика или нечетен брой символи. Те са с червен флаг за измама. "Написах назад, аз бях като, аз имам един. И те ме изпратиха в Оксфорд за три години, така че никога не се забъркваш с IT отдел. И ако ти започваш да се окажете в IT отдел, не позволяват на себе си да бъде объркали. Но така или иначе, ще видите, че потребител невежеството е нещо, което ще в смисъл, че това е наистина трудно се позове на тази долния десен квадрант да помогне на хората. А аз трябва да кажа, аз дори не съм сигурен Отговорът на този въпрос. Така ли е? Ако това е достатъчно лошо, I Предполагам, че може. Ако има дъжд над Redmond. Но така или иначе, нека да разгледаме друг квадрант, горе вляво. Когато си мисля за йерархия и собственост, Мисля правителство. И какво би могло правителството направите, за да се опитам да помогна? Е, правителството се опитва да помогне за около 10 години. Това беше първоначалната стратегия за осигуряване на киберпространството. Това е огромна. По същество това каза цифрова Pearl Harbor, да бъде много страх. И ние не знаем какво да направим по въпроса. Така че те се опитвам да разбера какво да направя за него, както и създаването на за обмен на информация и анализ центрове този поглед в интернет. Те са като, това е надолу, това е надолу. Това е като, ОК, това е надолу. Ние не можем да казваш на никого, че е надолу. Така че, един от недостатъците на безстопанствен технологии са, че няма видното място за изпращане на морски пехотинци, и те нямат специално сравнителна предимство, дори ако може ги изпрати, за осигуряване тази разпределена мрежа. Което означава, че правителството е оказало трудно време, фигуриращ какво да правя. Вместо това те направиха подобни обаждания, от бивш директор на ЦРУ Джордж Тенет, който каза, че може би имаме да се направи така, че хората - на достъпа до глобалната мрежа може да се наложи да бъде ограничени до тези, които покажат, че могат да вземат сигурността на сериозно. Той вече няма да на World Wide Web. Той ще бъде като, трима души са харесва, ние сме много сигурни. И това е един от проблемите в Опитвам се да разбера какво да правя. И само преди няколко години, не е това голямо нещо, Боже мой, те имат киберсигурността законопроект, и Президентът ще има спешна мощност за спиране на интернет. Аз не мисля, че възлиза за много от всичко. И всъщност самите депутати не са били доволни от тези доклади на убие ключ. Въпреки, че тя не ме кара да се чувствам по-добре че, както можете да видите в дъното, на сенатора беше като на Президентът вече има правомощия да спиране на интернет под малко известни предоставянето на Communications Act премина един месец след 1941 атаката над Пърл Харбър, което е много далновиден закон, да даде на президента правомощието да изключване на интернет, след като Японски нападнат през 1941 година. Както и да е, ние започваме да видите други начини, които Правителството се опитва да се мисли за това като че правителството ще мисля за всяка друга форма на проникване в пространството. И това е един от негативите на наричайки го киберпространството, защото това е не съвсем с интервал. Но ние мислим за периметрова защита. От подобно, добре нека просто сложи антивирусни възли всички около ръбовете на страната, и те могат да свалят входящите вируси като ракета команда. И това не работи много добре по този начин. И това означава, вместо това, че може да се прекрати до изграждане на система да свалят всички видове друго съдържание, което няма нищо общо с мрежовата сигурност. Не е ясно. Искаме да вземе страница от книги на страните, които имат вече е направено това. В същото време, сме виждали предложения от някои мултинационални multigovernment институции, като Международния телекомуникационен Съюз, напълно да ремонтирам интернет. Както можете да видите, те са изключително йерархична организация, вида на обратното на трите момчета, които стартира в интернет на разстояние. И те имат тази идея за замяна на пясъчен часовник, е това, което те наричат мрежа от следващо поколение. И те започнаха една фокус група на мрежи от следващо поколение, известни още като FGNGN. И тя дойде с нова карта за по-добро бъдеще. Готов ли си за новия пясъчен часовник? Ето това е. Това е ITU следващото поколение мрежа, и тя има всичко, но анимационен кламер. Изведнъж това е функция натоварено в мрежа, защото идеята трябва да бъде, те разбера, че искате да сте в състояние да да го направи, ако пакетът казва не копирайте мен, дори ако двама потребители искат да обменят това, мрежата трябва не знам да го направя. Това може да помогне с контрол на съдържанието, и че може да помогне с охрана. Не, мисля, че в крайна сметка mattering че много, защото се опитва да замени на мрежата, което имаме е наистина трудно да се направи. Тя има много инерция към него. Просто попитайте интернет инженери, които са се опитва да го себе си ъпгрейд. Така че една трета квадрант тук е горния десен. И тя все още е собственост, но това е полиархия. Има много собственици, и ще получите своя избор. Това е в основата на корпоративния сектор. Тя се обърна към корпоративния свят да се каже, че имам проблем. Продайте ми решение. Аз не търся правителство. Не мога да го направя сам. Но бихте могли може би идват с нещо. И разбира се, сме виждали много усилия от страна на частни компании за осигуряване на пространството, което на свой ред понякога окажете в беда. Това RSA призвание? Чувам странен звук. Предполагам, че не. Както и да е, оказва се, след това, че корпоративния сектор се опитва да предложи някои измерване на сигурност, но има чувстват, метафорично, осигуряване на пътя от летището в Багдад с своя собствена сила бодигард. Той има елемент на своята неефективност да него, и това означава, че различните хора ще получите различни нива на сигурност, които могат да се окажат не се е всичко, което е честно. В едно по-тънко чувство, което сме виждали на Въвеждането на технологии направени да бъде във формата на Flexowriter. В действителност, най-компания, която през 1977 г. ни даде първата голяма безстопанствен технологии, PC, ни даде първата голяма собственост технология точно 30 години по-късно, с iPhone, когато iPhone казва, вижте, ние ще определят всичко върху него. Вие не искате да бъде като PC. Тези катастрофа през цялото време. Вместо това, което искам, е да бъде в състояние да той да проработи, да го действа точно като че Смарт Processor Word. Сега, когато беше първоначалната iPhone. Нямаше никакви приложения, не App Store на оригиналния iPhone. Тя е по-точно като основно казват, изглежда, отиваме да го затворите разстояние, а това ще изглежда като нещо, което някои от Вие не сте виждали преди. И ние ще се определи какво отива по телефона. Сега това се промени, когато няколко години по-късно, те въведе софтуер разработчиците комплект, и изведнъж трети страните биха могли код за iPhone. А това включва и теб. Това не е реално покритие Newsweek. В действителност, това не е ясно за мен Newsweek съществува вече. Но така или иначе, това е просто лош сън, цялата работа. Оказва се обаче, че те поставяне на допълнително ощипвам инча то не е като VisiCalc. Ако измислите нещо, което ще работят на iPhone на някого, а вие Искам да го дам на тях, и те искат да го вземе, той трябва да мине през App Store, което от своя страна казва, че не сме ще позволи на незаконния, злонамерен, интимността, порно, трафик свиня, или любимото ми, непредвидено. Не можем да имаме нещо непредвидено случва на iPhone. И този модел App Store отговаря до много реални и неотложен проблем в на безстопанствените вселената. Но това е решение, което идва със собствените си притеснения. Така, например, когато един човек е създаден нещо, наречено Freedom Time, отброява края на George W. План на Буш, той беше отхвърлен от App Store. И той действително пише бележка на Steve Работа питам защо тя е била отхвърлена. Стив работни места писа и каза, това ще бъде обидно за грубо половина нашите клиенти. Какъв е смисълът? И разбираш, че хората са сега разхождат с тяхната технология. Те могат да го искат. Вие може да искате да го дам на тях. Но някой в ​​средата има да бъдем убедени в достойнствата си преди да го позволява. Това е много по-различна технологична околната среда. И това е едно, че Стив Джобс точно предвиждаше. Тя не е само за мобилни телефони. Това е към всички нашите технологии. И наистина, ние започнахме да видите хибриди и други начини, по които нашата собствена PC архитектура е сега App Store задвижване. Това сега искали, ние се това за даденост. Преди две години, щеше да е, аз съм не са толкова сигурни, че ще се случи. И години преди това, то би трябвало било лудост да предложи подобно нещо. И, разбира се, на другия ден Опитах се да се зареди това - Аз дори не знам какво прави, това нещо, наречено Vuze. Всеки, запознат с нея? Както и да е, аз се опитах да го заредите на моя Mac, и аз казах, не, не, съжалявам. Можете само да позволи нещата одобрен от App Store. Ако сте напълно ядки, можете да промените вашите настройки, за да позволи на всеки стари неща да изпълни на вашата машина. Но защо вие вероятно ще искате да направите това? И се оказва, че това не е Просто Apple прави това сега. Всеки голям производител е изграждането Архитектура, че и двете са предназначени да сигурни неща, и които стават вектори за контрол. И ако мислите, че Android е отворена, просто изчакайте, докато получи особено лошо набор от зловреден софтуер, и ще видите - това е Zombie SMS - Аз не знам кой ще кликнете върху "Анимирани Албум Намерих Когато оправих My Жена сътрудник на компютър ", но достатъчно хора го направих и в крайна сметка след това със злонамерен софтуер Android. И вие започвате да виждате скоростта на поемане на зловреден софтуер става. И разбираш, че това е само въпрос от време, преди да отидем до App Store модел за всичко. Така че това, което е станало е безстопанствен стават собственост, и това, което е собственост, но открито се превръща просто собственост, за всякакви причини. И ние виждаме не само на крайна точка устройства, но в облака, както добре, тъй като все повече платформи са започват да бъдат посредници между ти и уж независим партия, която искате да общуват с. Просто попитайте хората, които направиха нещо нарича Critter Island, а малко зает игра. И това имаше 150 милиона потребители през разцвета си, докато не направи нещо, Facebook, че не му харесва. Facebook просто извади куплунга, и има си ръководство графика точно на момента, в който Facebook извади куплунга. Това е много по-различна от зоната където можете да получите Napster там, и Napster е някъде там. Няма начин, че Бил Гейтс или някой друг би могъл да обърка тапа върху него, за добро или за лошо. И контрол върху код означава контрол върху съдържанието. Така, например, когато Kindle излезе - перфектен пример за собственост Friden Устройство Flexowriter стил - Има и трета страна, че представените чрез Amazon, 1984 за 0.99 $. И хората го купи. И тогава лицето, подаващо това е като, Опа, това е под авторското право в САЩ. Мислех, че е в публичен домейн. Грешката е моя. Amazon е като О, Боже мой, ние може да бъде в голяма беда за което позволява това да се случи. И като резултат, Amazon бръкна в всеки Kindle, които са имали изтеглени 1984 и заличава 1984 от Kindle отдалеч. Все едно, че не е нужно 1984. Вие никога не са имали 1984. Няма такова книга през 1984. Сега, това е проблем. И това не е толкова голям проблем, когато това се е случило, защото имаше още книжарници. Запомни книжарници? Запомни библиотеки? Беше като, не се притеснявай, има място, което просто има това вече отпечатва и граница на хартия в малко вероятния случай, че някой трябва да влезе и да се харесват, бих искал да дам ти $ 5 за печатно копие на 1984. Как напълно абсурдно е, че като бизнес модел? И като че избледнява, и да започнете да се да отпечатате, или да прочетете по поръчка, ти осъзнаваш, че контрол върху Съдържанието е сериозно нещо. И аз просто искам да съм сигурен, че не е просто Amazon тук това е Baddy. Това е Barnes и Noble, както добре. Бях четене - говори, за да не много живот - Четях Война и мир от друга ден, когато чета този пасаж. "Ярка светлина Nookd в лицето си." Какво, по дяволите, е това? "Пламъкът на серните трески Nookd - "Защо е работата" Nookd "всички над Война и мир? И тогава разбираш, че всяко място думата "Kindle" изглежда, че има се заменя със Думата "Nook." Да. Сега това не е Barnes и Noble. Това беше трето лице, което вероятно е направил това Amazon Ebook и след това просто отново намислих да отидете на Nook, и помислих, че ще се промени тяхната обвивка съдържанието на двата края на казват, о, ни намерите на нашия магазин Nook, и направих за търсене и замяна, и бедствие се е случило. Но да започнете да осъзнаят колко лесно това може да се Реновираното. И повярвай ми, ако сте по средата през войната и мира, ти си просто подобни, whatevs, това е Толстой за вас. Какво смяташ да правиш? Така че това е една епоха, в която нашите продукти стават услуги, и мислите, че съм аз имам тостер. Е, това е един продукт. Представете си вашия тостер като съвместима с Интернет услуга. Какво означава това? Това означава, че слезе един ден, това е харесва, поздравления, вие сте придобили актуализацията вторник. Вече имате три слота. Ти си като, добре, че е много готино. И тогава на следващия ден, те са като , Съжалявам, че тя се отдръпна. Имаше проблем. Извиняваме се за тост че е разбита. И след това в петък, се спускаш и това е вземане на портокалов сок. Ти си като това, което мога да притежавам? Отговорът е да притежава нищо. Имате право на дългосрочни услуги ориентирани отношения със закуска на доставчика. И това е страхотно, но също така е нещо, което все още се опитваме да увийте нашите ръце около като вземем използва за такива неща. И на регулаторните възможности са едва в началото си. Така, например, някои от вас може Запомни старата система OnStar. Той е бил в колата си. Вие ще бъдете шофиране наоколо, и ще получите загубени или нещо, и натиснете бутона в огледалото за обратно виждане. Той има малко микрофон, така че може говорят право в него и говорителите така можете да чуете какво казват хората обратно. И тази жена отговори, когато натиснете бутона за помощ. И вие сте като, аз не мога да стана. Моля, помогнете. И тя е като, добре, Помощ е на път. И тогава се оказва, че от ФБР завършва отидете на OnStar като фирма и казва, искам те, за това кола, просто да включите микрофона, и да слушате всичко случващо на в колата през цялото време. И компанията е като, хм. И те са като, това е, което ти започваш да се направи. Ние сме от ФБР. От компанията заявиха, OK и след това съдени анонимно, което води до това прекрасно случай дружеството срещу САЩ на Америка, в която, както се оказа, след това, че това не е разрешено съгласно на Wiretap Закона за най-тънкия причини. Което именно е начинът, по който ФБР попита за това да се случи, да бъдат изпълнени. Ако човек помоли за помощ, защото те наистина са в беда, нали все още само отидете на ФБР, а не OnStar, или, че компанията, която вероятно няма да дойде и да помогне. Но ако може да се определи, че бъг, можете ще бъде в състояние да се промени начин това работи. Така че, най-различни начини, по които ковък софтуер, който променя е в прерогативите и привилегията продавача, императивни, или получаване на разрешително, трета промяна страна, това е днес. Това е новата среда, и е околната среда на System/360. Вие не притежавате неща вече, и това е сериозен проблем. И така, какво ще правим с него? Е, аз ще ви дам някои идеи през следващите 4 и 1/2 минути. Така че, една от възможностите е да се върнете към тези много безстопанствен технологии и търсят нови средства за защита в този квадрант. Очаквайте в безстопанствен начин, но така мощен, толкова убедителен, толкова широко прие, че те да останат неща че престъпниците не могат лесно да се откажете от, който е това, което ги поставя в от лявата страна на тази графика. Това е нещо, Wikipedia има открили, че в нито един администратор на Wikipedia може да се правят промени в Wikipedia в привилегировано начин, но все още е в този вид разпределени, безстопанствен начин, за да се опита да допринасят за по-добра енциклопедия. И те просто се чрез списък на хора, които се оплакват за неща, всички ден, и за без пари, те само да го фиксиране. Това е една невероятна история, и Винаги има един контингент, че вярвам има уроци за това как хората могат да се намеси успешно в начини за осигуряване на интернет. И аз просто ще ви дам няколко примера на безстопанствен, но мощен - толкова силен, те се движат от ляво на тази диаграма - технологии като Tor, където, заедно с достатъчно компютри, можете да се окажете изпиране на източника и кацане на пакети, така че нещо като Пътя на коприната може да бъде и unfindable, въпреки че това е клик разстояние, в продължение на месеци в даден момент. Отне собственик на Пътя на коприната се опитва да изнесе хит на едно от продавач за ченгетата да бъде в състояние да намери този човек. Това е доста невероятно. За добро или лошо, това е пример на технология, а след това, че поддава определен вид OnStar като наблюдение. В съдържанието слой, виждаме неща като Ushahidi, която позволява на хората да веднага повърна на картата и да направи доклади на нещата, така че след земетресение или с други проблеми, са хора, които идват заедно в гражданска, безстопанствен вид начин, да всъщност създаде колективен халюцинации, че в този случай е карта на проблеми, които могат да стане доста надежден. Това е идея, която ние сме преследва през в Беркман център, в който В момента, ако се опитате да получите достъп до уеб страница, тя прави някои връзки, и кликнете върху някоя от тези връзки и да се опита да отиде, където връзката точки. Ако не можете да отидете там, това е всичко. Вие сте остана. Ами ако ние направихме така, че когато посетите страницата, тя вече е кеширана някои от връзките този момент на друго място? Отне ми копие от този сървър да себе си, така че, ако отидете на сървър и няма да може да стигнем до там, можете да се върна на мястото, където имаш връзката, и той ще изпрати Вие какво сте пропуснали. Това е пример на разпределена отбранителна система, която може да отнеме известно на жилото от разпределени отказ на услуга атаки. И, оказва се, ако филтриране, Ако блокиране е някъде в средата, може би благодарение на правителството филтриране, тази система ще бъде разпределени средства около него. Това е пример на безстопанствените гражданска технология да се върне. Сега, ако цялата щепсела на интернет, както вече е известно, че се случи, въпреки че по време това е като, уау, който знаеше че всъщност се е случило? Оказва се, че има мрежа в мрежа, в които всеки един от нашите устройства може да бъде програмиран да бъде в състояние да отговори да близкостоящи устройства, а след това последващи нататък, като че бригадата бира преминаване в Fenway Park, за да можем в крайна сметка с мрежа помежду си, вероятно с кеширана Facebook и Twitter пълномощията. Така че можете да намерите вашите Facebook приятели в окото на мрежата, без дори да се налага да стигнем до facebook.com. Това е пример на разпределена, безстопанствен колективна халюцинация, че може съществено да повлияе на сигурността. Имаше време, когато е имало дебат между държавните правителства за робство, и за връщане роби на юг, които са били на подготовката на север. И политическа настаняване е достигна, за да се опитат да предотвратят гражданска Война по това време, че те ще бъдат върнати. И се оказва, че не се получи. И защо не работи? Защото там не е централизирана прилагане на закона във всеки голям начин. Ако е необходимо да се намери някой, или не всичко, което е по-голямо от едно арест, имаш нужда от потеря, ви е необходимо да наеме гражданин да го направя. И достатъчно граждани бяха като, не знам мисля, че това не се случи. Технологии, които разчитат на общото обществеността да работят също са технологии че има някои клапани срещу злоупотреба по начин, който е различен от на клапани срещу злоупотреби, които ние сме запознати с повече от традиционната централизирана държавни сценарии. Така че в крайна сметка с този въпрос. Вие в момента завършва CS50. Вие сте придобили бъг малко, че получава ви в тази технология. И в този пъзел от следния Игра на тронове, опитайте се да мисля, за това кой сте. [VIDEO PLAYBACK] Ти-са любители на загадките? -Защо? Am I за да чуят една? -Три велики мъже седи една стая, един цар, един свещеник, и богат човек. Между тях стои обща клетка меч. Всеки велик човек заповядва на клетката меч убие другите двама. Кой живее? Кой умира? -Зависи от клетката меч. -Има ли го? Той няма нито корона, нито злато, нито благоволението на боговете. -Той има меч. Силата на живота и смъртта. -Но ако е мечоносци, които правилото, защо ние се преструваме царе разполага с цялата власт? -I've реших, че не ми харесва загадки. [END възпроизвеждане на видео] Джонатан Зитрейн: ОК, така, в този сценарий, мисля, че си или Maesters в обучение, за тези, които четат книгите, или имаш нож. Това е това, което заточване. Вие имате един инструмент, който можете да използвате в среда, все още достатъчно генеративен, че в една седмица може да обърне нещата. Може да се трансформира напълно това с един добър код разположени на тази мрежа. Как решите да го използвате ще, в страна, повлияе на това дали някой вижда причина за запазването на мрежата генеративен, или дали е време просто да го наречем затваря и да се върнете към Flexowriters, които обичаме. На тази графика на хора - това е третия закон на Кларк се върне отново - Съществуват лудити на наляво, така отстранява от технологии, които те не се интересуват какво се случва в света. OnStar не е проблем, защото те не шофирайте. OK, не че много ляво от тях. Те всички са на Harvard книжарница. След това, на правото, имате маниаци, които са нинджи, които могат да получат около нещо. В средата, имате на обществеността. И вие имате шанс да излезе от стадо, докато все още помня какво Беше като и влияят върху хода на историята по начин, който е по-добре за всички. Така че, за мен, това е тест. Можем ли да направим системи, които разпространяват власт, а не да го фокусират, и все още да е защитена? И аз съм убеден, че отговорът се крие в тази стая, а над тази уебкаст, и с тези, които са любопитни достатъчно, за да се подложи на феномен, който е CS50. И те са от вида на хора, които, тракане късно през нощта, да свърша като това. "Ще дойдеш ли в леглото? Аз не мога. Това е важно. Какво? Някой не е наред в интернет. " Това е инстинкт Считам че ще ни спаси. Благодаря Ви много. DAVID Malan: Благодаря ви много за професор Зитрейн. Да де, ако имате въпроси. Ще се видим в сряда.