Видео: Dame Tu cosita ñ (Октября 2024)
В этом эпизоде «Fast Forward» я говорил с Эллен Уллман, автором серии « Жизнь в коде», серии эссе, которая началась в 1994 году, когда она была программистом в Силиконовой долине. Сейчас она зарабатывает на жизнь написанием в основном художественной литературы, но Ульман остается увлеченным наблюдателем за регионом, технологической отраслью и тем, как наши инструменты меняют нас ежедневно.
Дэн Коста: Ваши корни программирования уходят далеко назад. В 1978 году вы были английским майором, который решил переключиться на программирование. Почему вы делаете что-то подобное?
Эллен Уллман: Ну, я попала в группу, снимающую видео, Sony Portapak была одной из тех машин, как ПК. Эти вещи, которые были подконтрольны гигантским корпорациям, внезапно оказались в ваших собственных руках. Вы можете делать свои собственные видео, свои собственные истории. Вы можете пойти и показать им. Там не было никаких ограничений. Вы могли бы сделать порно и т.д., и это было очень интересное время. Я узнал, что мне нравится работать с машинами. Возможность работы с этими машинами для социальных перемен и искусства была интригующей. В конце концов я покинул Итаку, чтобы поехать в Сан-Франциско.
Так что по импульсу я его купил. А потом возникла проблема программирования. Это немного сложнее, чем начать с Portapak, нажмите кнопку. Мне было трудно, но хорошо трудно. Я думаю, что любой, кто хочет заняться разработкой программного обеспечения, должен чувствовать: «Да, это сложно, но и удовольствие от охоты». Если нет никакого чувства соблазна в решении проблем, это будет очень несчастный опыт.
И люди сегодня не совсем понимают, что тогда, когда вы купили TRS-80 в Radio Shack, это ничего не дало. Вы должны заставить это делать вещи. Вы должны научиться использовать его, и это своего рода приглашение, на которое вы его взяли?
Да, там был пустой экран. Это было уже устаревшее телевидение в то время. У него была клавиатура, и вы записывали программы на кассетах с катушек. И я думаю, что это держало, возможно, 4K. Это был максимальный размер программы. И это был базовый язык. И я не знаю, знают ли люди разницу между интерпретированным и скомпилированным языком. Интерпретированный означает, что он просто выполняет это прямо перед вами. Итак, вы, знаете, вводите две точки, вы знаете, два плюс два, и это показывает вам четыре. Это легко, начать первые мелочи. Делать что-либо существенное было очень сложно, тем более что в раннем Бейсике было много ловушек. Как будто вы могли сказать «Перейти», но это не автоматически. Таким образом, вы можете потерять свой путь в путанице, и это было известно как код Гедди. Опять же, это было разочаровывающим и интригующим.
Когда я просматривал книгу, а вы говорите о тех ранних годах, меня поражают люди, с которыми вы работали. Это почти больше похоже на разношерстную коллекцию художников, чем инженеров и хардкорных программистов. Не могли бы вы немного рассказать о «Корпоративном духе» или о людях, с которыми вы работали?
Да. Если вы оглянетесь назад и - вы знаете, кто такой Стюарт Брэнд, Лектронный каталог «Вся Земля», The Well, - это было одно из первых онлайн-сообществ. И люди были привлечены к этому. Вы знаете книгу Джона Маркова « Что сказала Соня ?»
Конечно.
Вы знаете, стоунеры и выбывшие, а также люди, которые были просто сумасшедшими и хотели повеселиться. Это была атмосфера, которая привлекла меня, как Portapak. Это были люди, которые веселились, изучали. И первые люди, с которыми я работал, когда мне приходилось устраиваться на работу и зарабатывать на жизнь, были такими же. Бывшая суфийская танцовщица, женщина, занимающаяся диссертацией и искусствоведением, какой-то парень из Франции, который курил Gauloises, хотя курить было запрещено. И он говорил: «Компьютер никогда не говорил мне бросить курить». И с такими людьми мы работали.
Где-то в период с 83 по 86 год это изменилось. Информатика стала общей степенью, разработка программного обеспечения. И к нам присоединилась группа, состоящая из мужчин и мужчин, которые изучали информатику в качестве бакалавра. И атмосфера полностью изменилась. С людьми было сложнее общаться. По моему опыту, были не так хорошо округлены. Это очень широкое обобщение.
Я работал с мужчинами, которые были очень хорошо округлены. Вы могли бы процитировать Шекспира с лучшими из них. Но вся эта атмосфера изменилась. Я думаю, это потому, что профессия должна была потерять свою невиновность.
Как вы были вдохновлены заняться кодированием?
Ну, опять это было: "Ого, что это?" Знаете, когда я запустил свою первую настоящую программу, я почувствовал прилив удовольствия. «Вау, это работает. Я сделал это». Это пошло от ничего к чему-то. И это было как в первый раз, когда я установил карбюратор. Вы знаете, вы разбираете вещи Вы складываете их вместе, и машина заводится, верно? Так что это редкое удовольствие, и до него трудно добраться. Знаешь, когда у меня появилось это чувство, это было немного похоже на наркотик. Вы получили это высоко, а затем вы теряете это, а затем вы получаете это обратно, или вы пытаетесь.
Вы много говорите об этом в книге. Вы говорите, все должны научиться кодировать, потому что это сложно. И эта трудность в конечном итоге будет ощущением удовлетворения, которое вы получите от этого.
Я не говорю всем, чтобы научиться кодировать. Как я уже сказал, люди должны быть подвержены этому. Дело в том, чтобы демистифицировать код. Мы окружены алгоритмами, которые контролируют нас, и это не новость для тех, кто, например, был взломан Equifax. Одна треть взрослого населения США. Итак, суть в том, чтобы знать достаточно того, что оно написано людьми и может быть изменено людьми.
В Бронксе есть член совета, который предлагает законопроект о том, что район рассматривает все алгоритмы, которые они используют, и они переходят от полицейских заданий к графикам вывоза мусора в школу, в которую ходят дети, и ищут предвзятости. в них. Это процесс, на который я надеюсь, что люди в широкой публике начинают понимать, что эти вещи можно изменить. У них есть предвзятость, и эта предвзятость может быть устранена.
Итак, это подводит нас к одному из ваших основных моментов, а именно к тому, что сам код содержит смещения в контенте. И я думаю, что с помощью алгоритмов это поднимает его на совершенно другой уровень. Но в зависимости от того, кто написал код, он будет отражать определенные политические предубеждения, культурные предубеждения. Не могли бы вы немного рассказать о том, как это встраивается в сам код?
Ну, программисты не определяют, какой код будет написан. Это идет сверху. А люди наверху - очень богатые, в подавляющем большинстве белые люди, и их желание - это то, что, по их мнению, прекрасно для общества или каковы задачи.
Например, в простом приложении доставки выбраны почтовые индексы. Что это обозначает? Что мы не можем зарабатывать деньги с людьми с предельными доходами? Или мы не хотим отправлять машины туда? Это простой пример. Это входит в это все покупки? Это то, что нужно людям? Какую социальную точку зрения это выражает?
Это все вплоть до алгоритмов, и даже глубже. Я только что прочитал статью Филиппа Рогэвея. Он доставил его в 2015 году, и это о моральных последствиях криптографии. И он говорит о криптографии как о силе. Для кого ты это пишешь? Для чего они это используют? Итак, вы можете видеть из самого простого приложения, вплоть до самого низа того, что считается математическим, смещение встроено.
Я думаю, что вы указали на это пальцем, когда говорите о том, "Это все за покупками?" потому что это, безусловно, мотивировано сейчас коммерцией, и причина, по которой вы ориентируетесь на определенные почтовые индексы, заключается в том, что вы можете зарабатывать деньги с помощью этих почтовых индексов. И это формирует продукт, и затем он становится этим укрепляющим циклом. То же самое происходит с каждым институтом. Вот почему Amazon купил Whole Foods, а не Stop & Shop. Это из-за этих демографических предубеждений, и это только рынок на работе. Но эти рыночные силы в значительной степени определяют и технологическое развитие.
У меня есть пример чего-то, что я считаю просто чудесным. Была группа, которая говорила: «Это кодирование с нуля». Нет, люди не сидят в своих стеклянных закрытых помещениях, в которых мы работаем, решая, что «я некоммерческая организация, и это пойдет на пользу обществу и изменит мир». Это группа, работающая на местах с работниками без документов.
И вот, они подошли к группе. Снова дело дошло до кодеров с земли. И они сказали: «Можете ли вы построить нам что-нибудь?» У большинства из них есть мобильные приложения - конечно, приложение сохраняет анонимность - и они могут поставить этот номерной знак. «Ты ищешь это и не берёшь работу». Вы можете спросить, кто-нибудь зарабатывает деньги? В конце концов, да, потому что эти люди, отчаянно нуждающиеся в работе, не так обманывают.
Это как система репутации. Такая же репутация, та же, что и в Uber, где гонщики получают оценку, а гонщики получают оценку, и в идеале лучшие гонщики и лучшие гонщики получают вознаграждение в некотором роде. Это увлекательный пример. Есть ли у вас какие-либо советы для людей, которые плохо знакомы с программированием или хотят изучить его как вариант карьеры?
Совет людям, желающим изучить это? Во-первых, везде есть встречи. Нет, я не должен говорить везде. Они также в выбранных почтовых индексах. Тысячи и тысячи людей находятся в районе залива, где вы можете зарегистрироваться и встретиться с другими людьми, которые научат вас кодировать. Есть некоторые, особенно для женщин. Это очень полезно.
Я сделал поиск других мест в стране. Буффало, Нью-Йорк, Ютика, Нью-Йорк. И не было ничего. Итак, что нам с этим делать? Так что массовые онлайн-курсы кажутся возможными. И одна из вещей, о которых я написал, и то, что я сделал, - это, ну, записаться на аудит. И я видел все тот же уклон в учителях.
Они делали предположения об американской культуре. И хорошо, вы хотите заработать миллиард долларов. Вам не хватит миллиона. Все так же. Я думаю, что люди могут скачать эти видео, собрать группу, вы знаете. Ты высунешь язык в парня, который говорит тебе социальную чепуху. И помогать друг другу и учиться кодировать.
Есть также академии кода, которые стоят тысячи долларов, и они фактически закрываются. Они гарантируют людям, что вы заработаете три цифры в течение восьми месяцев. Я не думаю, что это хороший маршрут. В идеале школы будут учить этому. И я не имею в виду, что кодирование объединяет гуманитарные науки как основную грамотность. Я думаю, что люди с гуманитарными науками должны изучить кодирование, чтобы донести до людей, изучавших историю и социологию и иностранные языки, то, как другие люди живут в мире. Принеси это на арену кодирования.
Я хочу немного поговорить с вами о социальных сетях. Еще в 1998 году вы написали эссе под названием «Музей меня», и я слышал, что эта фраза звучит так, будто она совершенно новая. Но вы впервые написали в 1998 году, и вы сказали, что Интернет позволит нам создать «частный мыслительный пузырь», читая только те веб-сайты, которые укрепляют его или ее желаемые убеждения, и это именно то, чем мы, похоже, являемся сегодня.
Вы как бы назвали это, вы описывали Интернет в целом, но социальные медиа, кажется, только что подняли это на совершенно новый уровень. Мне очень жаль быть правым в этом. Случались вещи, которые я видел, которые, я думаю, в моем сердце надеялись, будут предупреждениями. Но, вы знаете, я просто написал для небольшой публикации тогда-
Я думаю, что это было, вероятно, в Harper's . Так или иначе, поколение селфи пропустило статью Харпера , к сожалению.
Ну, что они читают? Знаете, они читают каналы. Таким образом, каналы рассказывают им, что происходит сегодня. Кстати, сегодня очень сложно сидеть и говорить с вами о технологиях, через день после того, как мы устроили эту ужасную бойню в Лас-Вегасе. И более 50 человек погибли и сотни получили ранения. Мы действительно не знаем степень этого.
И вы знаете, оружие - это технология. Промышленный дизайн - это технология. Вы знаете, мы склонны думать об этом как о просто классных телефонах и ноутбуках и ИИ, серверах и алгоритмах. Но люди проектируют этот аппарат, который позволяет пистолету стрелять сотнями пуль одним выстрелом. И это действительно останавливает меня. Знаете, в такие дни трудно повеселиться. Я имею в виду, что я представитель мрака в целом, но этот особенно остановил меня.
Всем сложно просто пережить день в такие дни. Но один из моментов, которые вы продолжаете поднимать, заключается в том, что все технологии имеют эти неявные эффекты и что они не являются нейтральными, и многие этические разговоры, которые окружают всевозможные дебаты о политике, о политике, социальных вопросах, имеют тенденцию не случается в технологическом пространстве, потому что инженеры строят это, рынок требует этого. Проектировщики строят это, они отправляют это, и затем мы живем с последствиями.
Но, кажется, на каждом шагу, будь то оружейная технология, программный код, доступ к услугам, нам нужно поговорить о последствиях.
Это было бы моей надеждой. Вот почему я написал эту книгу, надеясь начать разговор на разных уровнях. Не то, что является целью будущего. Будущее - это то, что вы делаете из него сейчас, разговаривая. Человеческое желание ведет будущее. Это наша прерогатива. Кроме того, чтобы смотреть в прошлое. Еще одна причина, по которой я хотел вернуться к середине 90-х, заключается в том, что мы извлекли уроки из прошлого.
Просто смотреть вперед учит вас очень мало, потому что это все фантазия. Но если мы вернемся назад и увидим, как мы добрались до того места, где мы находимся, и тенденции, которые привели нас сюда, успехи, достигнутые людьми в прошлом, то, что мы узнали. Знаете, есть люди, которые жили до нас, и они занимались компьютерными технологиями больше, чем мы. Мы предполагаем, что через сто лет мы начнем с идей об этом. Поэтому я надеюсь, что люди остановятся и начнут самообразовываться. Оглядываться назад и пытаться увидеть, как они попали туда, где они есть.
Что вы думаете о природе технологической индустрии с точки зрения размера лидеров? С Google и Amazon, Apple и Microsoft вы говорите о четырех компаниях, которые абсолютно доминируют в целых отраслях. Интернет-индустрия, розничная торговля, индустрия развлечений. Являются ли эти компании чем-то слишком большим, что создает собственную проблему?
Это хороший вопрос. Да, они слишком большие. Мы все должны жить с ними очень долго. А такая компания, как Apple, позиционирует себя как социально прогрессивная. Однако эти компании глубоко либертарианцы. Они не хотят, чтобы правительство контролировало их, за исключением случаев, когда они хотят, чтобы правительство потворствовало им.
Посмотрите, что происходит со всеми этими городами, просящими, чтобы Амазонка оказалась среди них. «О, вам не придется платить налоги в течение 20 лет». Таким образом, правительство помогает им. Это то, что хотят эти компании. Они не хотят регулирования. Я не вижу в этой политической атмосфере, как мы собираемся это сделать. У нас нет Верховного суда, который скажет: «Это монополии. Мы их разрушим».
Это правильный вопрос. Да, они слишком большие. Многие люди должны обратиться к тому, что мы делаем отсюда.
В чем проблема с ними? Поскольку есть компании, я никогда не видел частную компанию, которая попросила бы большего регулирования. Каков риск наличия этих крупных компаний-гигантов? Неужели они собираются использовать свою рыночную власть для эксплуатации потребителей? Не потому ли, что они не собираются вводить новшества, потому что у них есть по существу монополии во всех этих различных отраслях?
Ну, они собираются эксплуатировать потребителей. У нас будет больше наблюдения. Там больше конкуренции. Я думаю, что они не могут просто сидеть сложа руки и говорить: «Я не занимаюсь НИОКР. Я не протягиваю руку». Но, боюсь, многое из этого исходит от покупки других компаний. У стартапов есть эти идеи, а затем они приобретаются. И затем они растворяют свои захватывающие силы, если они есть, в этих крупных корпорациях.
Но эти корпорации не могут сидеть сложа руки и ничего не делать. Посмотри, что случилось с Microsoft. Это действительно отставало. Посмотрите на Intel. Раньше Intel была одним из гигантов. Теперь это позади. Люди больше не используют большие компьютеры, а ноутбуки имеют разные чипы, и они вообще не способствуют мобильности. Таким образом, они собираются вводить новшества. Я надеюсь, что они не делают этого, просто покупая компании других людей, а затем ослабляя влияние этих компаний, что, кажется, происходит.
У вас есть эссе об ошибке тысячелетия, которую большинству людей придется искать в Google, чтобы узнать, что это было. Но я говорил вам еще до того, как мы вышли в эфир, что я на самом деле был в отделе новостей в канун Нового года в 1999 году, и никто действительно не знал, что должно было случиться. Мы знали, что с персональными компьютерами, вероятно, все будет в порядке, но все были обеспокоены тем, что происходит на электростанции с тем компьютером в подсобном помещении, который никто не проверял в течение 10 лет. Но не могли бы вы немного рассказать о том, что произошло тогда, и о том, какие уроки это может преподнести нам сегодня.
Одна из замечательных вещей в том, что я встретил программистов, написавших этот код в 60-х годах, которые сказали: «Я никогда не ожидал, что этот код будет жить так долго». Компания Texaco была единственной крупной корпорацией, которая хотела публично заявить: «Это не обман. Это то, что мы делаем. Это проблемы, с которыми мы сталкиваемся».
И их усилия были героическими. И были небольшие местные вещи, которые не были опубликованы. Но я знал в глубине души, общаясь с этими преданными программистами и руководителями проектов, что все будет хорошо, потому что они действительно планировали. Урок для нас сейчас заключается в том, что мы все еще используем весь этот старый код. У нас есть эти роскошные внешние интерфейсы, а затем у вас есть Интернет, который действительно находится в состоянии стресса. И это очень старый код.
Причина, по которой у нас есть все эти взломы, в том, что интернет никогда не был разработан для конфиденциальности и анонимности. Это было разработано, чтобы быть коллегиальным и открытым. Никто не придумал, что там будут эти громовые запасы. Так что у нас там уязвимость. Мы возвращаемся к серверам, выполняющим алгоритмы, которые находятся в операционной системе под названием Linux. Linux уходит очень далеко.
Если вы глубже и глубже разберетесь в том, что стоит за красивыми вещами, вы найдете старый код, старый код, старый код. И программисты пишут вещи, которые идут поверх другого кода, и не всегда - часто нет - понимают детали вещей, с которыми они взаимодействуют. Так что урок продолжается.
Отлично. Я хочу немного поговорить с вами об искусственном интеллекте. Кажется, что мы находимся в таком положении с Интернетом, который имеет все эти непреднамеренные последствия, которые мы все еще пытаемся уладить, - и теперь мы рождаем эту совершенно новую технологию, которая имеет все эти последствия. Вы ходите во многие компании, и у них есть системы ИИ, которые работают, которые принимают бизнес-решения и дают рекомендации, и они буквально не могут понять, как они туда попали. Они не могут определить процесс, который пришел к выводу. Они просто знают, что это работает. Не могли бы вы немного рассказать о том, что это может значить?
Они думают, что это работает. Тенденция сейчас в ИИ, сама идея гуманоидного робота, которую мы не можем отличить от человека, действительно ушла на второй план. Это доказывает, что очень, очень трудно понять, как люди функционируют так, как они. Теперь это машинное обучение. Идея в том, что вы пишете алгоритм. Он смотрит на результаты и меняет сам себя, а затем смотрит на результаты, и он учится.
Теперь, что происходит, люди, которые написали этот оригинальный алгоритм, действительно не знают, что происходит после нескольких итераций. И код все дальше и дальше удаляется от людей, которые его понимают. Знаете, это своего рода монстр в том смысле, что он действует сам по себе. И да, это работает, но чего не хватает?
Это работает на данных, которые имеют смещение. Это имеет тенденцию в первую очередь к прошлому. Есть ошибки. Так что то, чему он учится, также предвзято и подвержено ошибкам. Я действительно беспокоюсь об искусственном интеллекте в этом отношении, особенно о идее самостоятельного вождения автомобилей. И что мы говорим о реальном человеческом вреде. И я мог бы слишком долго об этом говорить, поэтому мне лучше остановиться.
Большинство прогнозов говорят о том, что автомобили с самостоятельным вождением будут более безопасными, чем водители-люди, и я считаю, что водители-люди являются большой частью проблемы на дорогах сегодня.
Человеческие водители имеют 100-летнюю историю вождения автомобилей. Итак, вот что люди могут сделать - они не просто смотрят на близость вокруг них. Вы знаете, когда вы ведете машину, даже если вы невнимательны, если у вас есть некоторый опыт, вы можете видеть впереди вас, четверть мили, полмили вверх по склону, что все это перегружено, и вам придется готовиться к остановке, Вы можете прочитать личность автомобилей. Кто-то приходит на дальний переулок. Вы видите марку, модель, агрессивность водителя. Когда эта машина движется, вы знаете, что она вас остановит. Вы не ждете сигнала тревоги близости. Люди знают, что в одно мгновение я либо попаду в аварию, либо попаду в ярость на дороге с этой машиной. Или я скажу: «Хорошо, давай».
Теперь давайте перейдем к тому, как автомобили с вождением могут разбиться. Опять же, они полагаются на межмашинные интерфейсы. И в этом коде будут ошибки, точка. Таким образом, они будут общаться через Интернет или какую-то беспроводную сеть. Большая уязвимость там. Мы видели, что машины, работающие по беспроводной сети, уже были взломаны белыми хакерами, чтобы показать: «Слушай, я могу заставить твой автомобиль ехать с дороги».
Так как это защищено? И затем есть интерфейс между различными марками и моделями. Теперь вы думаете, что все будут ездить на Prius? Нет, люди хотят разного рода производительности. Таким образом, снова будет соревнование в том, как работают машины, как водитель или пассажиры хотят чувствовать себя в дороге.
Там будет какой-то стандартный API, Application Interface, который отлично подвержен ошибкам. Но есть много, много точек неудачи, которые могут произойти там. Кроме того, они не могут ездить по снегу.
Это есть.
Это есть. Я имею в виду, вы видите, вы были бы бесполезны?
Вы думаете, что у нас будут автомобили с автоматическим управлением, которые будут очень подвержены ошибкам и угрозам безопасности? Или вы не думаете, что мы действительно можем построить безопасный автомобиль с самостоятельным вождением и что технология займет гораздо больше времени, чем думают люди?
Я думаю, что это произойдет. Я думаю, что на дорогах с ограниченным доступом, таких как автострады, это будет хорошо работать. Если не идет снег или идет сильный дождь. Это должно видеть линии. А затем он должен увидеть огни разбития и огни автомобилей вокруг него. И поэтому, с ограниченными точками зрения, они добавляют другой ЛИДАР и так далее.
В конце концов, это будет работать. Это займет немного больше времени. Прямо сейчас я думаю, что есть некоторые города, которые строят инфраструктуру в центре города для автомобилей. Но мы здесь, на Манхэттене, и у нас возникают проблемы с тем, чтобы наши метро работали. Как вы думаете, мы собираемся потратить миллиарды долларов, чтобы превратить Манхэттен в место, где есть датчики для самостоятельного вождения автомобилей? Я не знаю, через сотни лет, если Манхэттен не был затоплен из растущих морей?
Это будет там. Но мне кажется, что эйфория - и как обычно я мрачный представитель - я чувствую, что я на качелях, и есть все, кто действительно знает, что они делают, и я как блоха, подпрыгивающая на другом конец, пытаясь оттолкнуть немного и выровнять точки обзора. Умерить ожидания. Каждый должен знать, какую тяжелую работу мы должны выполнить, прежде чем это чудесное ожидание может быть выполнено.
Я собираюсь задать вам пару вопросов, которые я задаю всем, кто приходит на шоу. И этот должен быть легким для вас. Какое технологическое направление вас больше всего волнует? Есть ли что-нибудь, что поддерживает тебя ночью? Мы можем сделать еще одно шоу.
Все выше. Это не дает мне спать по ночам. Я имею в виду, я провожу достаточно времени, думая об этом в течение дня. Я знаю, один из вопросов, который, я думаю, вы намеревались задать, был, знаете ли, люди должны сделать паузу от всего этого? Да.
Сегодня меня чуть не выбросило на улицу кто-то на скутере.
А телефон?
С наушниками и телефоном. Так что это действительно касается меня. Люди могут действительно пострадать.
В Нью-Йорке каждый день получают травмы, потому что все смотрят на свой телефон и гуляют.
Да, я живу на юге рынка. Я базируюсь в Сан-Франциско на его Аллеях запуска, Вторая улица. Одно дело сказать, что все смотрят на свой телефон, но когда вы пытаетесь пройтись по улице, ведущей на север, когда все направляются на юг, а 100 человек смотрят на свои телефоны, это действительно похоже на то, как будто я живу в чужом мире.
