Руководство социальной сети Facebook вынуждено было отключить свою систему искусственного интеллекта, после того как машины начали общаться на собственном, несуществующем языке, который люди не понимали
Об этом сообщает Би-би-си.
Отмечается, что система использует чат-боты, которые изначально создавались для общения с живыми людьми, но постепенно начали общаться между собой. Сначала они общались на английском языке, но в какой-то момент начали переписываться на языке, который они сами создали в процессе развития программы.
В американских СМИ появились отрывки из “диалогов”, которые вели между собой виртуальные собеседники [орфография и пунктуация сохранены].
Боб: Я могу могуЯЯ все остальное.
Элис: Шары имеют ноль для меня для меня для меня для меня для меня.
Эксперты опасаются, что если боты начнут активно общаться на своем собственном языке, то постепенно станут все более самостоятельными и смогут функционировать вне контроля IT-специалистов. Тем более, что даже опытные инженеры не могут полностью отслеживать ход мыслительного процесса ботов.
Несколько дней назад об искусственном интеллекте поспорили глава Facebook Марк Цукерберг и основатель SpaceX, Tesla и PayPal Илон Маск.
Выступая на саммите Национальной ассоциации губернаторов Соединенных Штатов, Маск назвал искусственный интеллект “наибольшей угрозой, с которой сталкивается цивилизация”. По его словам, если вовремя не вмешаться в процесс развития этих систем, то будет слишком поздно.
“Я продолжаю бить тревогу, но пока люди сами не увидят роботов, которые ходят по улицам и убивают людей, они не узнают, как реагировать [на искусственный интеллект]”, – сказал он.
Заявления Маска вызвали раздражение у основателя Facebook Марка Цукерберга, который назвал их “довольно безответственными”.
Источник: Левый берег
Підписуйтесь на Telegram-канал “Новини АТН”