Интервью президента MIT с Сэмом Альтманом
Как развивается область искусственного интеллекта и что это значит для будущего работы, образования и человечества? Президент MIT Салли Корнблут и генеральный директор OpenAI Сэм Альтман рассказали обо всем этом и многом другом в ходе широкой дискуссии в кампусе MIT. Читай до конца, чтобы быть в курсе самых передовых новостей в мире высоких технологий.
♻️В качестве энергообмена - ставим лайки, сохраняем в заметки, оставляем комменты, делимся с коллегами🔁 ииииии — Полетели🚀
Успех больших языковых моделей ChatGPT от OpenAI подстегнул волну инвестиций и инноваций в области искусственного интеллекта.
🔸Альтман приветствует большие ожидания, связанные с его компанией и областью ИИ в целом.
"Я думаю, это здорово, что в течение двух недель все сходили с ума от ChatGPT-4, а на третьей неделе все уже спрашивали: "Ну же, где GPT-5?"". сказал Альтман. "Я думаю, что это говорит о том, что человеческие ожидания и стремления действительно велики".
Проблемы с искусственным интеллектом
🔸В самом начале дискуссии Корнблут и Альтман обсудили этические дилеммы, которые ставит перед нами ИИ.
"Я думаю, что мы добились удивительно хорошего прогресса в том, как выстроить систему вокруг набора ценностей", - сказал Альтман. Как бы люди ни говорили: "Их нельзя использовать, потому что они постоянно извергают токсичные отходы", GPT-4 ведет себя примерно так, как вы хотите, и мы смогли заставить его следовать заданному набору ценностей, не идеально хорошо, но лучше, чем я ожидал на данный момент".
Альтман также отметил, что люди не согласны с тем, как именно должна вести себя система ИИ во многих ситуациях, что усложняет попытки создать универсальный кодекс поведения.
"Как нам решить, какие ценности должны быть у системы?" - спросил Альтман. "Как мы решаем, что должна делать система? Насколько общество определяет границы, а не доверяет пользователю эти инструменты? Не все будут использовать их так, как нам нравится, но это как раз относится к инструментам. Я считаю, что важно дать людям бОльшую свободу действий... но есть вещи, которые система просто не должна делать, и нам придется коллективно обсуждать, что это такое".
Корнблут согласилась с тем, что искоренить предвзятость в системах ИИ будет непросто.
"Интересно подумать о том, сможем ли мы сделать модели менее предвзятыми, чем мы, люди", - сказала она.
Корнблут также затронула проблему конфиденциальности, связанную с огромными объемами данных, необходимых для обучения современных языковых моделей. Альтман говорит, что общество столкнулось с этими проблемами с момента появления Интернета, но ИИ делает эти вопросы более сложными.
"Как мы будем искать компромисс между приватностью и полезностью и безопасностью?" спрашивает Альтман. "То, как каждый из нас индивидуально решит установить эти компромиссы, и преимущества, которые будут возможны, если кто-то позволит системе обучаться на протяжении всей его жизни, - это новый вопрос, на который обществу предстоит ориентироваться. Я не знаю, какими будут ответы".
Альтман считает, что прогресс будущих версий моделей ИИ поможет решить проблемы конфиденциальности и энергопотребления, связанные с ИИ.
"Мы хотим, чтобы GPT-5, или 6, или что бы то ни было еще, стало лучшим механизмом рассуждений", - сказал Альтман. "Правда, сейчас единственный способ добиться этого - обучить его на тоннах и тоннах данных. В этом процессе он учится тому, как делать ограниченные рассуждения или познания, или как вы хотите это назвать. Но тот факт, что он может запоминать данные, или тот факт, что он вообще хранит данные в своем пространстве параметров, я думаю, мы оглянемся назад и скажем: "Это была довольно странная трата ресурсов". Я полагаю, что в какой-то момент мы поймем, как отделить механизм рассуждений от потребности в тоннах данных или хранения данных в модели, и сможем рассматривать их как отдельные вещи".
Корнблут также спросила о том, как ИИ может привести к вытеснению рабочих мест.
"Больше всего меня раздражают люди, которые работают над ИИ, когда они с прямым лицом говорят: "Это никогда не приведет к ликвидации рабочих мест. Это просто аддитивная вещь. Все будет просто замечательно", - говорит Альтман. "Это приведет к ликвидации многих существующих рабочих мест, это изменит способ функционирования многих существующих рабочих мест, и это создаст совершенно новые рабочие места. Так всегда происходит с технологиями".
Перспективы ИИ
🔸Альтман считает, что прогресс в области ИИ сделает борьбу со всеми текущими проблемами этой области стоящей.
"Если бы мы потратили 1% мирового электричества на обучение мощного ИИ, и этот ИИ помог бы нам понять, как перейти к безуглеродной энергетике или улучшить глубокое улавливание углерода, это было бы огромной победой", - говорит Альтман.
Он также сказал, что его больше всего интересует применение ИИ в научных открытиях.
"Я считаю, что научные открытия - это основной двигатель человеческого прогресса и единственный способ обеспечить устойчивый экономический рост", - сказал Альтман. "Люди не довольствуются GPT-4. Они хотят, чтобы все становилось лучше. Все хотят жить больше, лучше и быстрее, а наука - это то, как мы этого добьемся".
Корнблут попросила Альтмана дать совет студентам, задумывающимся о своей карьере.
"Самый важный урок, который нужно усвоить в самом начале своей карьеры, - это то, что вы можете разобраться во всем, и ни у кого нет ответов на все вопросы, когда он начинает работать", - сказал Альтман. "Вы просто спотыкаетесь на своем пути, имеете высокую скорость итерации, стараетесь двигаться в сторону наиболее интересных для вас проблем, находитесь рядом с наиболее впечатляющими людьми и верите, что успешно итерируетесь до нужной вещи. ... Вы можете сделать больше, чем вы думаете, быстрее, чем вы думаете".
Этот совет был частью более широкого послания Альтмана о том, что нужно оставаться оптимистом и работать над созданием лучшего будущего.
"То, как мы учим нашу молодежь, что мир полностью испорчен и что пытаться решить проблемы безнадежно, что все, что мы можем сделать, - это сидеть в своих спальнях в темноте и думать о том, какие мы ужасные, - это действительно глубоко непродуктивная полоса", - сказал Альтман. "Я надеюсь, что MIT отличается от многих других университетских городков. Я полагаю, что это так. Но вы все должны сделать своей жизненной миссией борьбу с этим". Процветание, изобилие, лучшая жизнь в следующем году, лучшая жизнь для наших детей. Это единственный путь вперед. Только так мы сможем иметь функционирующее общество... И противники прогресса, противники "люди заслуживают прекрасной жизни" - это то, против чего, я надеюсь, вы все боретесь".
Держу, мои предприимчивые, вас в курсе Tech-событий!
⚠️ Подписывайтесь на мой блог, чтобы в числе первых узнавать о самых горячих Digital лайфхаках, новостях в сфере технологий и бизнеса.
Всем любви и процветания, ваша Мария Кучеренко
~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~~
бизнес #businesssvahavdele #ии #искусственныйинтеллект #нейросети #нейросеть #openai
