ComplianceCraft

Искусственный интеллект
Комплаенс
Этика

📌В рамках ежегодной V Весенней школы по комплаенсу 30.05.25 приняла участие в круглом столе по теме «Роль этики в эру искусственного интеллекта» вместе с Томасом Эдвардом Роулинсом, (НИУ ВШЭ) и Валетдиновым Аязом Азатовичем (Московская биржа) – 🤝благодарю коллег за живую и интересную дискуссию, а также всех участников Школы

👉Дискуссия получилась жаркой, местами пессимистичной (да-да, мы обсуждали «а что если, ИИ выйдет из-под контроля и решит, что люди – самая большая угроза Земле»), ее невозможно передать, а вот некоторые мои выводы и наблюдения я оставлю здесь с полезными ссылками:

1️⃣Недостаток (или отсутствие) гуманитарных дисциплин (в первую очередь этики и философии) в технических ВУЗах может со временем привести к повсеместной «этической слепоте» разработчиков и архитекторов IT-систем, разработчиков и технических пользователей LLM-моделей
2️⃣Слабое понимание важности этического компонента в процесс обсуждения концепта, тестирования и внедрения ИИ-решений приведет к малому вовлечению представителей комплаенс-служб к этим вопросам. Начало этого процесса уже видно: на комплаенс-конференциях представители комплаенс-служб IT-компаний представляют какие угодно темы, но не те, что связаны с этой новой и непростой тематикой
3️⃣Человечеству (в лице государств, мега-корпораций) потребуется «рубильник», чтобы выключить ИИ. Но что может стать таким «рубильником»? этот вопрос вызвал отдельный стрим дискуссии. С моей точки зрения в отношении ИИ нам потребуется новая «концепция линий защиты» для безопасного развития и использования ИИ-продуктов
4️⃣Этические вопросы волнуют всех и в т.ч. пионеров и визионеров тематики ИИ. Даниэль Кокотайло (ex OpenAI) и др. написали 2 сценария развития моделей ИИ (рекомендую прочитать оба варианта - ссылка ниже).
Вопросы честности ИИ много раз упоминаются в сценариях и во многом являются основой возможности или невозможности дальнейшего позитивного сосуществования ИИ и человека
5️⃣Развитие ИИ во многом связано с развитием соответствующей физической инфраструктуры – вычислительные мощности, сервера, чипы, их компоненты и т.д.
6️⃣Роль контроля над ИИ возрастет, но также вероятно, что это будет контроль одни моделей ИИ над другими – вопрос, где и в чем будет место для человека?
7️⃣Если какая-то модель ИИ поведет себя нечестно и это приведет к опасным рискам для человека/человечества – возможно ли будет как-то удержать/отключить ИИ?

продолжение👇

www.tg-me.com/us/ComplianceCraft/com.compliancecraft/1763

631 viewsedited  Jun 3 at 14:17

Искусственный интеллект
Комплаенс
Этика

📌В рамках ежегодной V Весенней школы по комплаенсу 30.05.25 приняла участие в круглом столе по теме «Роль этики в эру искусственного интеллекта» вместе с Томасом Эдвардом Роулинсом, (НИУ ВШЭ) и Валетдиновым Аязом Азатовичем (Московская биржа) – 🤝благодарю коллег за живую и интересную дискуссию, а также всех участников Школы

👉Дискуссия получилась жаркой, местами пессимистичной (да-да, мы обсуждали «а что если, ИИ выйдет из-под контроля и решит, что люди – самая большая угроза Земле»), ее невозможно передать, а вот некоторые мои выводы и наблюдения я оставлю здесь с полезными ссылками:

1️⃣Недостаток (или отсутствие) гуманитарных дисциплин (в первую очередь этики и философии) в технических ВУЗах может со временем привести к повсеместной «этической слепоте» разработчиков и архитекторов IT-систем, разработчиков и технических пользователей LLM-моделей
2️⃣Слабое понимание важности этического компонента в процесс обсуждения концепта, тестирования и внедрения ИИ-решений приведет к малому вовлечению представителей комплаенс-служб к этим вопросам. Начало этого процесса уже видно: на комплаенс-конференциях представители комплаенс-служб IT-компаний представляют какие угодно темы, но не те, что связаны с этой новой и непростой тематикой
3️⃣Человечеству (в лице государств, мега-корпораций) потребуется «рубильник», чтобы выключить ИИ. Но что может стать таким «рубильником»? этот вопрос вызвал отдельный стрим дискуссии. С моей точки зрения в отношении ИИ нам потребуется новая «концепция линий защиты» для безопасного развития и использования ИИ-продуктов
4️⃣Этические вопросы волнуют всех и в т.ч. пионеров и визионеров тематики ИИ. Даниэль Кокотайло (ex OpenAI) и др. написали 2 сценария развития моделей ИИ (рекомендую прочитать оба варианта - ссылка ниже).
Вопросы честности ИИ много раз упоминаются в сценариях и во многом являются основой возможности или невозможности дальнейшего позитивного сосуществования ИИ и человека
5️⃣Развитие ИИ во многом связано с развитием соответствующей физической инфраструктуры – вычислительные мощности, сервера, чипы, их компоненты и т.д.
6️⃣Роль контроля над ИИ возрастет, но также вероятно, что это будет контроль одни моделей ИИ над другими – вопрос, где и в чем будет место для человека?
7️⃣Если какая-то модель ИИ поведет себя нечестно и это приведет к опасным рискам для человека/человечества – возможно ли будет как-то удержать/отключить ИИ?

продолжение👇

BY ComplianceCraft