11 просмотры видео·8 апр. 2024 г.
«Что такое искусственный интеллект сегодня — инструмент в руках человека или серьезная угроза? Готовы ли мы к конкуренции или большинство людей вскоре останется без работы? Как далеко зайдут манипуляции нашим сознанием с развитием нейросетей? Не поздно ли мы задумались над тем, что развитие ИИ требует строгого контроля? Илон Маск заявляет: в искусственном интеллекте заложен потенциал — потенциал разрушения человеческой цивилизации. Так останется человек разумный главным видом на нашей планете или битва уже проиграна? Эксперты выпуска — Татьяна Черниговская и Алексей Масютин».
«Искусственный интеллект: добро или зло?» Татьяна Черниговская
Источник: «ИИ против человека: кому достанется планета?» | «Инфощит». 6 выпуск» на канале «НТВ» https://vk.com/video-28658784_456319240
ТАЙМИНГ ВИДЕО:
00:00 Обсуждение искусственного интеллекта
01:41 Примеры использования искусственного интеллекта
04:04 Опасности искусственного интеллекта
12:00 Обсуждение искусственного интеллекта
23:10 Примеры использования искусственного интеллекта
24:16 Искусственный интеллект и его применение
27:47 Искусственный интеллект в ресторане
30:58 Будущее с искусственным интеллектом
36:10 Искусственный интеллект и его влияние на общество
• Татьяна Черниговская обсуждает, что искусственный интеллект не заменит человека, а скорее заменит другой человек, освоивший инструменты искусственного интеллекта.
• Она приводит пример бухгалтера, который использует инструменты искусственного интеллекта для автоматизации рутинных задач.
37:58 Будущее искусственного интеллекта
• Алексей Масютин соглашается с Татьяной Черниговской, что прогнозировать будущее искусственного интеллекта сложно, так как каждый год появляются новые методы и архитектуры.
• Он также отмечает, что искусственный интеллект может обрабатывать данные разной модальности, что может привести к созданию "короля" в этой области.
39:57 Необходимость контроля и регулирования искусственного интеллекта
• Татьяна Черниговская подчеркивает, что необходимо осознавать происходящее и напряженно думать о том, как справиться с развитием искусственного интеллекта.
· • Она также отмечает, что в нынешних политических реалиях каждая группировка будет тянуть одеяло на себя, что может привести к созданию нескольких масштабных нейросетей.
· • Черниговская призывает к мягкому регулированию и балансу, а не к резким движениям в регуляторике.
вы меня сами позвали поэтому слушать вам
придётся неприятные вещи Восстание машин
началось вы чувствовали что общаетесь с
обыкновенным живым человеком и это вас
пугало Да да это было страшно человека
заменит другой человек который освоил
инструменты искусственного интеллекта
планируем жить на этой планете мы или
нет свой текст писал с помощью
искусственного интеллекта сегодня нет
знае вопрос только провокационные только
дискуссионные
вот и нейросети как всё это
контролировать и это Соревнование не
факт что мы выиграем На данном этапе всё
прогнозируемое не публично не
рассказывать эти
вещи вот эти все речевые и текстовые
технологии в первую очередь конечно
производят впечатление на массы там
написать реферат подготовить сценарий
утренника Ну вот смотрите вот размеры
рынка доходов обработки естественных
языков Ну синие столбики - это оценки
мирового рынка в прошедшие годы и
прогноз на ближайшее время и красные
столбики - это Российский рынок речевого
искусственного интеллекта и вот после
появления Бота gpt практически все
мировые игроки объявили об увеличении
инвестиций в свои разработки это
фактически такой ящик Шрёдингера в
котором сидит кот и никто не знает В
каком он состоянии пока ящик не откроет
то есть в каком виде и какого качества
будут сервисы речевого искусственного
интеллекта и к чему это вообще приведёт
один из первых инвесторов разработк
разработчик Бота gpt Был конечно илон
Маск потом складывался Билл Гейтс и он
заявил что в Бота вложит ещё
многомиллиардные объёмы вот по
информации blomberg гейс будет
вкладывать 10 млрд долларов о своих
инвестициях и внедрении умного Бота Барт
уже объявило руководство Гугла так как
бот конкурентов фактически угрожает
потому что поисковик может потерять
лидерство и акции Гугла могут проседать
такое уже было китайский миллиардеры
заявили что скоро выводят на рынок своих
речевых ботов высокого уровня это Али
Баба и байду крупнейший интернет концерн
Китая при этом вот все лидеры этих
разработок и критикуют неконтролируемое
развитие искусственного интеллекта и в
то же время нахваливает свой бизнес и
возможности
ии мы чертовски сильно боремся за
положительные варианты использования
искусственного
интеллекта допустим у нас есть алгоритм
который может автоматически обнаружить
например рак молочной железы в
лимфатическом узле и если этот алгоритм
сможет провести анализы и
диагностировать болезнь быстрее человека
а это очень утомительная задача это
позволит экономить драгоценное
время мы возможно недооцениваем
использование искусственного интеллекта
вне системы
здравоохранения в бизнесе искусственный
интеллект распространён повсеместно и
приносит невероятные преимущества для
оптимизации цепочек поставок финансового
анализа и планирования и вот что мне
интересно во всм этом процессе это
многоступенчатая
Ду м и искусственным интеллектом человек
используя инструмент проверки фактов
делает это для того чтобы получать
данные для другой машины которая станет
более полезной опять же для человека и я
думаю что со временем если мы сделаем
этот процесс правильным мы сможем решить
невозможные проблемы Ну что ж сейчас на
все эти вопросы Я надеюсь мы получим
ответ От наших
говя
изуми когнитивных
исследований доктор биологических
наук Она у нас отвечает скорее за
естественный интеллект А у нас в студии
Алексей масютин он руководитель центра
искусственного интеллекта Высшей Школы
Экономики естественно больше специалист
по искусственному интеллекту и сразу
вопрос Скажите пожалуйста искусственный
интеллект На данном этапе это добро или
зло пора уже устанавливать над ним
контроль или Пускай пока всё в свободном
плавании Давайте сначала вопрос дадим
возможность ответить Петербургу Татьяна
Владимировна Как вы считаете контроль
уже нужен уже лет 10 Да Разумеется нужен
причём быстро Более того я не уверена
что мы не опоздали потому что я
последнее время не называю имён говорила
в том числе и с разработчиками и с
западными калифорнийски тоже и они
всерьёз боятся если боятся разработчики
то я думаю есть все основания боятся и
просто люди
а чего боятся Вы можете сформулировать
вот что как Какая угроза всё очень легко
сформулировать именно то есть проще
простого а именно что мы теряем контроль
над происходящим более того Многие
считают и я так считаю что мы уже
потеряли Вот как а Алексей вы как
считаете это контроль Да что Джин из
бутылки вылез и как известно обратно он
не
планирует из бутылки вылез или всё-таки
Можно его ещё сдержать понимаю что
вопросы только провокационные только
дискуссионные
Ну знаете сложно судить в этом смысле
искуственный интеллект - Это технология
И на самом деле любая технология - это
инструмент и скажем так вот один из тоже
ведущих исследователей кун в Твиттере
по-моему недавно сделал такой пост где
привёл пример такой в шутливо стиле
излагает что давайте регулировать ша руч
потому что они могут быть опасны ими
пишут всякую клевету или неправду ими
могут там подписывать какие-то не
настоящие документы гла можно шариковой
руко вполне возможно то есть в этом
смысле Ну искуственный интеллект - это
некоторый инструмент который усиливает
наши возможности а куда мы направим эти
возможности Да зависит уже
непосредственно от человека то есть вы
пока за Свободное плавание то есть не
надо любая область имеет законодательную
основу регулирования и так называе сферу
мягкого права то есть вот нормы этики и
на самом деле Вот мне кажется в России
там не знаю Татьяна Владимировна как
согласится или нет всё-таки У нас там
есть и Альянс искусственного интеллекта
и кодекс этики к которому присоединяются
различные компании поэтому мне кажется в
этом смысле и технологии раз либо
шутите вы меня сами позвали вы меня сами
позвали поэтому слушать вам придётся
неприятные вещи вы либо шутите либо не
знаете потому что то что вы говорите
было справедливо лет п тому назад Сейчас
уже это не так это не такой инструмент
это инструмент который претендует на
получение
статуса личности и Это не фантазия это
не стругацкий это не Ази казимов А это
реальная реальность об этом говорят
разработчики что касается кодексов
которые есть в нашей стране или ещ в
какой-то стране то е раз сообщаю
кодексов если они есть они давным-давно
устарели и не отражают положение дел ещ
год назад такой разговор как у нас
сейчас идёт выглядел бы очень
отвлечённым потому что никто не
подозревал что это история будет
развиваться С такой скоростью сейчас
счёт идёт на дни и это я не разработчик
искусственного интеллекта правда я вхожу
в научного
сове искусственного интеллекта и
когнитивных
исследований президиуме Академии Наук СР
В смысле не ССР Понятно России это я
пошутила так неко из этого не следует
что я стала специалистом по
искусственному интеллекту Но из этого
следует что я в курсе тех дискуссий
которые на разных
уровнях ведутся Я
про в них участвую и как миним
присутствую оно волноваться Если вы
читаете то что сейчас происходит
то эти программы эти сети стали учиться
речь идёт о
GP 4 и дальше и их конкурентах которые
есть и у нас Яндекс этим занимается
сбера этим занимается А в других странах
этим занимается целый ряд Гру
больших
если они стали волноваться то у нас есть
основание как минимум насторожиться нас
ножа которым можно отрезать сыр а можно
прирезать соседа Это история конечно
симпатичная но старая она к нынешнему
положению дела отношения не
имеет эти штуки стремительно учатся вы
понимаете Они учатся сами более того
есть признаки того что они ум способом о
котором мы люди знаем то есть может
сложиться ситуация что они нас опережают
не только потому что у них бесконечная
память они не спят там у них не болит
голова и так далее а потому что они
пошли по другой дороге нам никто не
обещал что нейронные сети нынешние вот
эти вот мощные чаты gpt и их варианты
что они будут идти в догонку
человеческим интеллектом естественно
никто этого не обещал Это мы почему-то
так решили то как эти сети не эти сети а
программы играют с людьми Ну с шахматами
вообще история закончена но играют
скажем в го сами лучшие игроки в го
говорят что они делают ходы они это сети
делают ходы которые люди не делали
никогда красоты ходы но немыслимые они
прямо Говорят это инопланетная игра так
люди не играют вот В какую сторону надо
думать а не в сторону ручки которой
можно те Владимир Я в этой связи Хотел
бы уточнить применительно скажем к
информационному пространству в котором
мы работаем с Владимиром каждый день Вот
А как мы
знаем Мы научились как бы люди научились
манипулировать друг другом нашли
какие-то точки давления в том числе там
ну в продажах это и развивается и в
пропаганде политической и так далее и
так далее нейросеть Она теоретически
может научиться манипулировать людьми с
большим успехом находя ещё более болевые
токи Разумеется Может я об этом и говорю
поскольку она пользуется несопоставимо
большим количеством
параметров по которым идёт информация к
ней счёт идт на миллионы миллиарды
понимаете один человек не может этого
сделать то разумеется если не дай Бог у
неё появятся свои цели какие-нибудь Вот
это самое страшное то она будет
манипулировать Так что вы даже и
примерно не будете об этом знать это
будет высшей степени правдоподобно
Поэтому да опасность есть таяна Владина
вас хочет Алексей успокоить Алексей Что
скажете в
оправдание я буду счастлива Нет там я
думаю что Татьяна Владимиро
обеспокоена но смотрите Ну вот всё-таки
про
то там я не могу согласиться с тезисом
что мы не знаем как эти сети обучаются
просто мы бы не получили тогда аналоги
того же gpt в наших компаниях Да но
команды которые специалисты занимаются
вот областью NLP так называемыми
моделями это Nature langage Processing
то есть обработка естественного языка
Они конечно так это всё языковые модели
Я кстати говоря доктор наук не только
биологических но и я лингвист поэтому я
знаю что они дела
Да ну известны пайплайн и в общем-то
рецепты которые позволяют получать
модели такого
класса как правило крупные компании
могут себе позволить разрабатывать такие
модели потому что они требуют больших
вычислительных ресурсов и огромных
массивов данных которые надо уметь
собирать структурировано хранить и
обрабатывать И на самом деле цели у
практически всех современных модификаций
языковых моделей очень простые
Какое следующее слово в тексте будет
только и всего Я сейчас очень огру блю
Нет не только и всего потому что язык -
это не только
словарь безусловно но вот если мы
возьмём классические трансформер модели
то их задача состоит там при помощь так
называемого маскирования восстанавливать
слова которые находятся в зависимости от
окружающего контекста когда мы
действительно вскармливание моделям
огромные массивы данных через какое-то
время возникает ну бе поняти смертность
то есть некоторые свойства которые
изначально а там явно не не планировали
КК обучению системы Ну например
а mgp открытый аналог мультиязычный вот
gpt от сбера либо
а чат gpt сам по себе они могут вести с
вами диалог сразу на нескольких языках
потому что в массивах данных есть эти
данные и также есть параллельные корпусы
текстов и опять же говорить о том что
там
э у неровных сией появляются свои цели
на самом деле искусственный интеллект -
это некоторый такой да большой
вычислительный чёрный ящик который
представляет собой гигантскую формулу
там с миллиардами разных параметров где
там разделить умножить возвести в
степень извлечь корень или применить
какую-то функцию но на входе он получает
числа и на выходе он даёт числа то есть
вы считаете что На данном этапе всё
уделять большое количество вниманию
применению методов искуственного
интеллекта в деятельности различных
компаний объединений и скажем так Ну
вести какую-то Я бы так сказал ну
просветительскую работу с в том числе на
уровне там клиентов компании физических
лиц чтобы они понимали как работают те
или иные продукты мы же сейчас не
удивляемся когда мы заходим например на
агрегатор фильмов или сериалов что там у
меня и у моей жены совершенно разная
подборка Мы же не говорим что вот
платформа нами манипулирует но наверно
действительно мне будет части
манипулирует конечно наверно предлагает
определённый продукт соглашусь эффект
фрейминга есть но готовы ли мы
отказаться Что такое эффект фрейминга Ну
это когда вы а вы не путаете Что значит
готовы мы отказаться это другой вопрос А
кроме того история науки и технологий
говорит о том что запретить нельзя
ничего вы можете любые декларации
издавать где угодно хоть в ООН выступать
хоть где угодно это абсолютно ничего не
изменит люди такие существа они уже раз
начали это делать то будут делать себе
на шею Ну про фрейминг Да два слова это
ситуация когда там пользователь уже
привыкает к тому что есть какие-то
рекомендации и уже не получает контент
который там из других областей который
мог бы его заинтересовать Но на самом
деле Здесь тоже есть разные инструменты
которые вносят так называемые инновации
в рекомендации То есть когда вам
случайным образом показывают что-то
другое чтобы Вы могли там зацепиться и
уже пойти под другой и выйти из своего
пузыря Да в каком-то смысле Да да Рош
вы хотите сказать что Билл Гейтс илон
Маск и дальше по списку мы знаем эти
фамилии не будем их называть все что они
этого не знают да Ну я вот тако сугубо
личное своё мнение скажу что вот есть
пример тоже кто-то сравнил что
крупнейшие табачные компании иногда
лоббирует законопроекты которые вводят
барьеры для там ну повышенное акцизы и
так далее странно зачем это против их
интереса вроде как-то но на самом деле
они таким образом создают барьеры для
входа более мелким компаниям их
потенциальным конкурентам вот там опять
же как бы мы не относились вот компания
Open ai которая разработала lpt Она
вроде как заявляется что она открытая
компания Но тем не мене в неё 10 млрд
долларов инвестировала компания
конкретно американская штаб квартиры в
Америке вот э и они уже последнюю версию
модели gp4 не раскрывают и вот скажем
так ну
э наверное Им выгодно чтобы никакие
другие конкуренты в Китае или в России
ну не смогли побороться в достаточно
степени Я предполагаю что вот там подход
Изучи кому какое-либо там новое
предложение выгодно оно позволяет вот
такую логику выстроить Я не говорю что
это там не имеет никаких оснований то
есть там вопросы этики рисков
смещённой при работе этих моделей но на
мой взгляд просто нужно их
идентифицировать изложить и разработать
митигированная 5
копе история в том Почему крупные игроки
критикуют развитие искусственного
интеллекта Да а уже же есть предложение
мы уже слышали в конгрессе Давайте
создадим какую-то международную
организацию на наподобие магате в
ядерной энергетике Да которая будет
контролировать развитие искусственного
интеллекта А дальше возникает вопрос
Если мы создаём какую-то мировую
организацию под контролю искусственного
интеллекта воз который контролирует
пандемию распространи искуственного
интеле организации будет доминировать
это й
уред давайте от неё избавляться ваша
Российская тоже вредная и так далее как
тогда быть с контролем Татьяна
Владимировна кто должен контро про и
говорю я про то именно и говорю что
ситуация в высшей степени тревожная
потому что то что вот
коллега собеседник сказал
на подавление конкуренции это ВС
абсолютно правильно я полностью с этим
согласна Но нам от этого не легче
понимаете это Разумеется есть но то что
эти сети стали вытворять что-то чего
опасаются сами их разработчики - это
факт понимаете уже даже если мы отвлечся
от этой конкурентной истории это пункт
первый пункт второй то что вы сказали
действительно какие есть гарантии что
вот вот
мировая
будет контролировать чтобы мы хоро себя
вели и чтобы искусственный интеллект
разгулялся она кому принадлежит То есть
это это серьёзные проблемы этих проблем
не было ещ год назад
Давайте встречал ли он разработки
искусственного интеллекта которые его в
какой-то степени
напугали Да Наверно я бы
тоже
приго кто-то испугался вот из таких
шуточных историй Я слышал что какой-то
пользователь чат gpt последовал совету
Chat gpt по-моему там семейной парай
какая-то и они подали заявку на развод
то есть ну грубо говоря общаясь с
чат-ботам они задали какие-то вопросы
там наверное какой-то контекст их
отношений изложили и вот что нам делать
Ну он же как ребёнок развивается мы так
понимаем Да Татьяна Владимировна имеет в
виду что это как мозг нейросети
развиваются пока они советуют развести
потом могут что-то другое посоветовать
это во-первых а во-вторых я говорю не
про шутки я не могу к сожалению я просто
обещала не публично не рассказывать эти
вещи
но недавно 2 недели назад я общалась с
одним из разработчиков этого заграницей
находясь Вот и пообщалась сама с этой
нейронной сетью она навела на меня ужас
с этой это не с
такой
это была сеть мо она ещё не вышла никуда
может выйдет то есть вы её тестировали
да ну да ну если это может так назвать
учитывая что я не специалист это
вызывает
ужас ты беседуешь с реальным нормальным
человеком задавая очень сложные ответы и
получаем мгновенные ответы которые не
есть
результат переборки
то есть вас напугало что
это вы чувствовали что общаетесь с
обыкновенным живым человеком и это вас
пугало Да это было страшно да но это ну
я не наивно Так что не то что я падала
меня скорее напугало то что это пугает
разработчиков которые говорят что это
во-первых идёт с огромной скоростью их
обу
э
пере пони може сли
нах что одна из нейронных сетей не буду
брать какая я просто не
помню что она там работала со языками и
взяла и между делом выучила китайский
причём выучила Так что не планировалось
никем и более
того Вла понять нельзя и она прошла
очень строгие тесты она обыгрывает
человека научившись сама понимаете никто
её не только ий задания такого не давал
а и материала не давал тна Владимиров я
в принципе понимаю да что китайском
языке общаешься с компьютером он как
живой человек тебе там что-то советует и
ты спокойно воспринимаешь начинаешь
думать что с кем я общаюсь но с другой
стороны 25 лет назад представьте вот вы
идёте по улице а навстречу вам идт
человек и такой говорит Как пройти к
ближайшему магазину и кладёт в карман
это бы тоже тогда
испугало А сепра я согласна с этим нет
собственно мой вывод вот из того что мы
говорим помимо аларми так сказать не
присущего мой вывод такой мы подошли к
какой-то совершенно новой черте
понимаете это не то что
сново правильные сплавы он стал острый А
теперь он вообще немыслимы остры это не
это дело не в степени А дело в том что
это качественный рубеж эта штука может
выйти из-под нашего контроля а именно
искусственный интеллект может стать
более мощным чем
естественный и тогда мы не можем
конкурировать
действительно ощущение такое что мы так
постепенно вот мы разговариваем и
ощущение мы входим вот я вхож
ры Ара Клар вот чтото из этой области
приближается к нам Но вс-таки какие-то
ведь и прикладные моменты Мы же можем
использовать и может быть ограничить эти
сети именно вот этими прикладными
полезными моментами алгоритма которые
помогают это было бы чудесно Кто бы
спорил Разумеется работа с с большими
[музыка]
дан не техники а технологии Давайте вот
Алексея послушаем что он может нам
предложить как
обычным жителям гражданам да чем
занимается его центр так скажем Ну
давайте да Если можно пару примеров
приведу опять же вот языковые модели
именно которые вот с нами беседуют это
одна из областей Да она сейчас получила
очень такою большую порцию внимания там
и в СМИ и в общественной дискуссии Но
вот например
мы разрабатываем такие
решения есть такое понятие видеографы
трекеры которые отслеживают движение
глаз и мы учимся мы строим модели на
основе записи траектории движения глаз
пользователя которые позволяют там
классифицировать и определять какие-то
состояния есть дислексия проблема такая
очень важная в детской популяции Что для
того чтобы её диагностировать требуется
час активного нейропсихологического
обследования очень трудом
умен читательскому поведению ребнка где
это проблема лежит читайте про себя и
смотрите на красную точку в Мы записали
движение ваших глаз во время чтения этих
простых предложений посмотрите как это
выглядит вот так читает взрослый человек
а так читает ребёнок с дислексией Вы
видите что это чтение очень отличается
от беглого чтения ребёнок переходит с
буквы на букву возвращается перечитывать
мы использовали различные алгоритмы
машинного обучения есть нарушение чтения
Группа риска или нормотипичный
91 это один из примеро второй пример
приложение этой технологии Подождите А
причём здесь искусственный интеллект
Дело в том что я с этими приборами сама
работаю очень много лет всё что вы
говорите я хорошо знаю Причём
искусственный интеллект приведу пример
представляет собой здесь набор моделей
которые по сырым данным траектории
движения глаз производят задачу
классификации Давайте е другой
пример говорим сложных
вещах вот смотрите есть у вас модель
индекс этичности предприятий Да которая
собирает везде отклики каком-то
предприятии выстраивает
Рен кстати и которая используется не для
вот такой вот беседы а которая
обрабатывает открытые посты клиентов
пользователи компаний где они оставляют
отзывы о взаимодействии с той или иной
компанией вот тоже пример То есть у вас
эта программа условно выдаёт уровень
хейта по отношению к любому любой
компании Ну более оптимистично я бы
выразился уровень удовлетворённости той
или иной компании Ну вы правы что как
правило пишут негативные отзывы поэтому
можно сказать что индекс хейте Ну смысл
В чём что здесь тоже применяется
языковая модель которая учится
раскладывать все эти отзывы по разным
категориям этот отзыв о том что цена не
понравилась это то что качество
продукции не понравилось это то что
как-то пообщались может быть некорректно
или наоборот цена очень порадовала и там
качество было супер вот э конкретная вот
разработка позволяет - подразделениям
компаний лучше работать вот в социальном
пространстве в интернет-пространстве с
своими клиентами потому что ну можно
оперативно отследить где возникла
проблема и как-то отреагировать Ну вот
пожалуйста Это пример вполне помогающий
человеку делать качественно рабо скажите
это алгоритм на конкретных людей же тоже
можно настроить то есть уровень
скандально любого человека собрать по
всем соцсетям и мы получим такой рейтинг
базарно скандально у каждого Да условно
тоже самое в политике можно применять в
выборных
технологиях делается
уже что что это пустяки по сравнению с
тем что сейчас могут эти нейронные сети
другой уровень сложности Я хотел бы
продолжить Давайте посмотрим ролик ещё
Где используется искусственный интеллект
совершенно другого разработчика да
Давайте посмотрим искусственный
интеллект в
ресторане стол 20 пришли три
гостил расч
гол
стол 15 готово
бар вот смотрите вот здесь вот да в
ресторане там есть камеры развешанные
которые фактически заменяют живого
администратора в зале который всем
официантам в ухо подсказывает какой
столик пришёл какой Сколько человек сели
готово ли кофе мясо кому на какой столик
отвезти Да человек уже администратор ээ
не нужен его не нужно фактически
нанимать Кроме того и сразу владелец
ресторана видит как быстро выполняются
заказы что заказывают то есть вот тебе
уже не нужен даже вот посредник такой да
между владельцем
и менеджером зала Да но второй вопрос
Если мы к этой системе который
определяет кто зашёл куда сел подключим
вот этот вот индекс этичности который
вдруг будет определять людей по
скандально тогда мы что получим мы
получим
уже камуи
л чек кото будет скандалить официант
будет решать уже подходить к нему не
подходить обслуживать более конкретно
корректно Либо наоборот вообще подождать
чтобы он стал и ушёл Вот здесь мы
получаем уже некую То есть у каждого
официанта мы знаем есть интуиция А здесь
мы уже интуицию таким образом из двух
продуктов получаем в
результате Вы согласны допустим с
этим интересно разговаривать с
владельцем ресторана с которым я если
дасть Бог ещё и знакома предположим и
официанты которые знают кто что любят
которые вообще могут тебе рассказать что
вот это привезено оттуда это отсюда мне
не интересно беседовать
с автоматом для газированной воды нет а
там люди живые это им подсказывают чтобы
быстрее
обслуживать официанты живые
остаются пока
живые всё это понятно Я просто
прогнозируют что я вам
скажу можно поговорить при Кстати да
если автомат газировка тоже можно G
подключить но это уже тогда будет просто
действительно Восстание холодильников и
машин
мина Можно я вам под конец разговора
задам вопрос который я ВС время задаю и
задам И вам его мы е пни планируем жить
на планете мы или нет или Мы готовы всё
отдать этим существам новым Вот это
вопрос которые мы должны себе задать Я
понимаю что нейронные сети дописываются
симфонии Бетховена они пишут рассказы
они пишут сценарии всё это понятно а
люди чем займутся Если вы думаете что
люди будут в освобождённые тяжёлой
работой время писать мадригал и играть
на лютне то вы ошибаетесь Ну
искусственный интеллект на самом деле
создаёт ещё гораздо больше новых
профессий на самом деле это прежде всего
раз это я знаю это мне Греф Рассказывал
а я тут поддержу Татьяну Владимировну
смотрите во времена всех вот крупных
каких-то там мировых открытий Да когда
автоматизация убирала физические места
людей Да так скажем начиная с X века
может быть и раньше Да мы что имели
раньше диты ста было
про мы получали что мышечную
силу ла интеллектуальная сила потому что
нужно было разрабатывать паровозы
паровые машины конструировать и так
далее А сейчас мы подходим к этапу когда
интеллектуальную деятельность человека
уже заменяют физическую и
интеллекту что нам остаётся в какой вид
деятельности в диванный вот я вас и
спрашиваю а что что будем делать А мы у
Алексея спрашиваем Давайте попробуем
порассуждать вот смотрите чтобы создать
что-либо И поддерживать уровня GP нужно
огромное количест специалистов которых
10 лет назад Ну просто не было это и
дата инженеры это и разметчики данных
это в общем-то лингвисты которые сейчас
на самом деле то есть недостаточно быть
просто переводчиком нужно уметь Пардон
там базовые навыки программирования
иметь чтобы парсить ну способ обработки
сбора данных данные
и на мой например появляется профессия
промт инженера Так называемого это как
раз пользователь Ну больших языковых
моделей который должен правильно
составлять инструкции либо запросы чтобы
сеть давала наиболее полезные ответы это
тоже то есть нам ещ рованные профессии
или нет во многом Да но это не то есть
точно не ну не хуже тех там большого
количество людей которые заняты сейчас в
основном где-то рутины задачами Ну окей
приведу
пример Вот давайте так отойдём немножко
от языковых моделей потому что у нас
прямо фокус внимания на них к моделям
компьютерного зрения вот как про
ресторан показывали есть производство
есть конве
многие автоматизированы полностью но
какие-то там неизбежно требуют
вовлечения человека и вместо того чтобы
просто делать какого-то супервайзера на
конвейерной линии который следит что в
корректной последно собираются детали
можно поставить систему камер и такой
стенд как раз разработан сотрудниками
мима Высшей Школы Экономики это
Московский институт электроники
математики который позволяет с помощью
этих камер идентифицировать правиль
последовательность сбора устройств из
различных деталей то есть здесь сразу
несколько задач решается и ция разных
похожих между собой деталей и
классификация их по размеру по форме и
порядок сборки соответственно Вот
наверное Мне кажется благо что мы
позволим другому человеку Просто
заняться другими вещами который может
пойти и
размечается другое образование и ну
разовьёт свой карьерный путь в другом
Алексей я вот знаете здесь возраж вот мы
когда делаем эту программу у нас уже
некоторые картинки рисуют искусственный
интеллект условно и даже скорые тексты
писать и голограммы
ивенте есть фа как миним да В бюджете
этой программы мы изверги сэкономили
примерно на одном рабочем
месте ничего нового рабочего места
нового Мы не придумали в этой
спою по роману Артура Кларка Когда
отправили космический корабль
космический Одиссей 2001 где у них
вспомогательная функцию выполнял
компьютер который должен был помогать им
и они должны были его обслуживать потом
в итоге он понял что он сам себя может
обслуживать и люди ему ни к чему и в
общем сценарий как Мы помним был не
очень татяна Владимировна вам вопрос как
тогда нам искусственно затормаживает эту
вот модернизацию с искусственным
интеллектом чтобы спасти
себя как минимум надо Нет ну надо
реально на это смотреть мы затормозить
это не сможем к
сожалению поэтому я бы мой ответ более
мягкий чем я говорила всю эту передачу
Свами нам надо насторожиться понимаете
нам надо как бы собраться и понимать что
мы вошли причём не войдём А уже вошли в
совершенно новый тип цивилизации это
правда так и так никогда не было это то
что
э нам конкурент может оказаться ситуация
когда на нашей планете если мы конечно
её не взорвём
предварительно на нашей планете будут
сосуществовать искусственный
естественный интеллект и это
Соревнование не факт что мы выиграем
поэтому я бы думала что нам надо Ну соре
точится и как-то насторожиться понимать
что происходит я не думаю что это
возможно запретить или
остановить указы то можно любые сдать
хоть ООН хоть кто хочешь издаст Только
исполнять никто не будет реально татяна
реальность диктует допустим если в
России мы о заботимся там как-то
контролем да то условно Китай и
Соединённые Штаты убегут вперёд и таким
образом через 10 лет мы как как страна
Россия будем не конкурентоспособны я бы
поддержал и это верно Владимир Да я
понимаю Угу А вот мне хочется такое
сравнение привести вот у нас прямо
противопоставление искусственный
интеллект против естественного на самом
деле человека не заменит искусственный
интеллект человека заменит другой
человек который освоил инструменты
искусственного интеллекта Вот пример
О'кей возьмём бухгалтера там 40 лет
назад и посмотрим когда вышел Excel а
возьмут ли на работу какого-либо
бухгалтера сейчас если у него нет знаний
экселя Я думаю нет и таким образом люди
которые освоили эти новые инструменты
они остались конкурентно способными
поэтому Ну но не исчезла такая профессия
и в этом смысле там тот же самый там
возьмём креативную сферу написание
картин логотипов а человек может
использовать инструменты генерации это
модели которые мы знаем кандинский
шедевром от Яндекса кандинский от сбера
которые позволяют генерировать эти
изображения Но это может какую-то
рутинную часть там составления типовых
логотипов либо иконок автоматизировать
почему бы нет Угу
так ну в общем вы оптимисты и я вам даже
завидую Ну тут Да у нас как бы сложились
два разным взгляда на будущее один
оптимистичный один пессимистичный
всё-таки Давайте если вот прогнозировать
без искусственного интеллекта вот нашим
интеллектом уже завершение программы
можем мы спрогнозировать ситуацию что
чем мы будем пользоваться через 3 года и
через 20 лет татяна в первый вопрос вам
как вы представляете наш мир через 3
года если всё пойдёт Такими
темпами э я абсолютно не могу ответить
на этот вопрос потому что при том мире в
котором мы сейчас живём Планировать на
месяц вперёд нельзя Не то что на 3 года
Так что я не могу дать прогноз Алексей
зна что мы будем иметь через 3 года в
качестве инструментов искусственного
интеллекта вот здесь я соглашусь с
Татьяной Владимировной 100% потому что
такая область как искусственный
интеллект машинное обучение каждый год
выходят новые методы новые архитектуры и
вот там представить что будет через 3
года буквально невозможно Единственное
что можно сказать Что Да мы не можем
скорее всего Будут набирать обороты
модели которые работают с данными разной
модальности то есть не только текст но
одновременно текст картинка аудио видео
и будут одновременно обрабатываться
совмещать чтото бы что это всё первый
совместить тот получит звание короля
скорее всего Да Слушайте Да вообще ну
это это уже есть они уже умеют умеют
умет вот этот разговор остаётся довольно
У меня лично такое очень тревожное
ощущение в общем я понимаю что надо чтоб
понять что нас ждт перечитать классиков
научной фантастики которые как
выяснилось во многом были правы Да
предвидя эти конфликты в которы мы се
что на планете появляется в общем-то
новый разумный вид с которым нам как-то
при существовать и кото мы сами себе и
сделали конкурента этого кто создал мы и
создали сводить кайто
контро
Нет я Нет я не так сказала про орган
контроля Я не говорила я говорила про то
что нам нужно осознать то что происходит
и напряжённо думать как с этим
справиться потому что орган контроля
Сами понимаете этот орган он он не
нейтрален и Кроме того то что уже было
сказано что мы начинаем проигрывать э
тем кто не вёл такой контроль То есть
это непростой вопрос Ну вы же понимаете
что в нынешних политических реалиях
каждая группировка в мире будет тянуть
одеяло на себя
засекречиванию сетей Да хорошо вопрос
Алексей вообще не нужно Тода
контролировать эти технологии Ну ну я не
знаю Я знаю что об этом Надо думать всем
собраться тем кто может и думать я здесь
тоже согласен с Татьяной Владимировной
что нужно насторожиться но насторожиться
относительно очень резких движений в
регулятори То есть просто можно погубить
раз технологии если мы сразу там всё
запретим ну баланс есть есть понимание
Как контролировать интерпретировать на
самом деле многие решения которые
принимаются на основе нейронных сетей
это методы так называе объяснимо и и и
наши специалисты этим занимаются и за
рубежом Мне кажется здесь всё-таки есть
надежда более такой
сбалансированный мягкое мягкое
регулирование Ну в разных юрисдикциях
уже есть примеры ограничений в Китае
например уже несколько месяцев обязывают
маркировать все видео аудио изображения
картинки тексты которые сгенерировано
искусственным интеллектом А в Евросоюзе
уже готов законопроект по запрету модели
искусственного интеллекта который
выставляет людям что-то типа социального
рейтинга и этот рейтинг основывается на
привычках и поведении человека в
Соединённых Штатах дальше
рекомендательных мер не идут ну что же я
хотел в конце программы спросить у
искусственного интеллекта Как нам
завершить эту передачу с экспертами в
естественном и искусственном интеллекте
но решил не давать лишний шанс
искусственному
интеллекту а дать возможность Владимиру
геннадьевичу завершить программу Пока
ещё он не заменён давайте пока на таком
у нас умеренный оптимизм сейчас
получился достичь да в этой дискуссии
что всё-таки мы будем стремиться как-то
баланс соблюдать собственно к чему нас
призывали опять же
ФХ вспоминали Я думаю е не раз будем
вспоминать в ближайшее время С развитием
этих технологий поэтому Давайте
надеяться на то что человечество в
очередной раз справится с вызовами
которые перед ним стоят и поблагодарим
наших гостей за очень интересную и очень
важную самом деле Вот в данный момент
дискуссию Да Татьяна Владимиро
Черниговская директор инту
котив интеллекта Высшей Школы Экономики
Ну что же а мы Владимир Владимир
Чернышов Прощаемся С вами до свидания
Берегите своё ментальное здоровье точно