Миллионы крабов и медуз погибли на дне Чёрного моря в районе крушения танкера
Виктор Мараховский: Может ли существовать без цензуры говорящий истину "электронный бог"?
Развитие нейросети ChatGPT заморозить хотя бы на полгода дружно просили такие гиганты современной мысли и технологий, как Илон Маск, объясняя это заботой о человечестве, еще не готовом ко встрече с реальным искусственным интеллектом, которым стремительно становится чат-бот компании OpenAI. Напугав мир восстанием роботов, дельцы в это время принялись сами активно делать свою нейросеть. Илон Маск хочет создать аналог нейросети ChatGPT, только без цензуры. И вот вопрос на миллион долларов — неужели нейросеть может настолько развиться, что все самые страшные представления человечества об искусственном интеллекте сбудутся? Своим мнением об этом с Накануне.RU поделился автор телеграм-канала "Мараховское время", публицист Виктор Мараховский.
— Никакой нейросети без цензуры в принципе быть не может. Нейросеть, которая имела бы цензуру, должна была бы являться так называемым Artificial General Intelligence — настоящим сильным искусственным интеллектом, то есть личностью. На данный момент, по заверениям людей, которым мы можем доверять, ни один из разработчиков даже близко не представляет себе, ни что такое это самое искусственное сознание, ни как его достичь, и ни один из результатов работы даже близко не приблизился к тому, чтобы воспроизвести искусственное сознание.
Исходя из этого факта, мы упираемся в вопрос — как в таком случае нейросеть, выдавая какие-либо результаты, может не подвергать себя цензуре вообще, если она в той или иной форме непременно будет ограничена предпочтениями тех, кто формирует пути ее результатов? Нетрудно заметить, например, что в современном медиа-пространстве существуют полярные точки зрения на такие простенькие, второстепенные вопросы, например, действительно ли человек губит планету путем эмиссии СО2 или это не так? Правильный ответ, с точки зрения условного ChatGPT — "да, да, безусловно, да". Правильный ответ, с точки зрения диссидентов экологической повестки — "нет, не человек, и не губит, ничего страшного, переживем, приспособимся к изменению климата". Вопрос об украинском конфликте тоже имеет ответы разной полярности, но один из них, получается, будет изначально объявлен неправильным. Априори. И так далее.
Внимание, вопрос — каким образом любой чат нейросети будет выбирать, что есть ложь, а что есть истина, если не будет подвергать сам себя цензуре? Или он будет выдавать рандомные результаты по тревожным вопросам?
Нейросеть с амбициями объективности столкнется с нерешаемыми парадоксами — невозможно дать объективный ответ относительно того, кто прав, христиане или мусульмане, насчет природы Господа. Та-дам! В каком смысле — кто прав? И у христиан, и у мусульман на этот счет весьма убежденные, но несколько различные точки зрения. У индусов вообще другие представления, а индусов тоже, как мы знаем, немало.
Сама идея, что может существовать говорящий истину "электронный бог" без цензуры, но зато владеющий всей информацией, могла возникнуть только в результате самонадеянности офигевших технократов, которые сами по себе зачастую в гуманитарном смысле, люди, скажем мягко, невинные. А если честно, то просто темные и необразованные. Но они очень самонадеянные, потому что в течение последних 40 лет как минимум технарям и технократам вся массовая культура поклоняется, дует в ягодицы, чешет их по пузику и за ушком, говорит им, что они-то уж точно пришли в мир, чтобы спасти всех от зла. И те вполне согласны.
Естественным образом они упускают из виду абсолютные азы и банальности логики — не машинной, а человеческой. Не учили их азам гуманитарных знаний, культурной истории. Они думают, что можно всегда сделать какую-нибудь систему ранжирования и приоритетов, которая точно все правильно выстроит. Так не бывает. То есть создать можно очень умный ChatGPT, который будет говорить то, что нравится Илону Маску, но в этом чате будет больше Илона Маска, чем объективной истины.
Для того, чтобы это была объективная истина, нам нужно всего-ничего — для начала создать свободную личность, сознание этого самого ChatGPT, а затем прокачать ее до уровня "Бог". Потому что он же разбирается лучше всех людей. Я уже приводил у себя на канале один примечательный случай: в Аргентине "наняли" ChatGPT в качестве корреспондента городской хроники. ChatGPT очень хорошо и оперативно, в принципе, грамотно отписал новость о нападении на какую-то старушку, но сделал некоторые ошибки, а именно, неправильно назвал: фамилию старушки, ее возраст, фамилию мэра Буэнос-Айреса, время события, а самое главное — выдумал кучу подробностей. Причем, ссылаясь иногда на несуществующие источники, но с его точки зрения, все было нормально. И, наконец, в качестве вишенки на торте — он нашел еще абсолютно неподходящее к делу рандомное видео и неправильно его подписал.
Эта та же проблема, как проблема с пальчиками в условной "Миджорни" — вы знаете, что у нейросетей проблемы с пальцами? Они с ними воюют. Они с трудом могут себе представить человеческую руку, особенно кисти и пальцы. Может быть, их все же поднатаскают в отношении пальцев, но как они смогут отличать правду от лжи, если этого не могут даже их создатели?
Это все, что я могу сказать о головокружительных перспективах робота, который "придет, порядок наведет", а также "нас всех уничтожит" или, наоборот, "всех спасет". Пока он застрял на уровне не очень умной, не очень добросовестной девочки-стажерки, но очень работоспособной, которая в свою очередь потребует достаточно большого количества надзирателей, которые проверяли бы за нее факты, корректировали и ловили на вранье, говорили: "Нет, тут ты чушь несешь, нет, это мы вырежем, потому что нельзя убивать всех людей".
- Главная повестка дня всегда под рукой – в нашем Telegram-канале.
Летать в России станет еще дороже
Креатив Госдумы так и прет: про букмекеров и депутатов
Вот это "Вызов"
