ДалееСледующее руководство
Родительский контроль для чат-ботов с искусственным интеллектом
Приложения
РУКОВОДСТВО ПО ПРИМЕНЕНИЮ
Ярлык чат-бота «безопасно для детей» — это заявление о продукте, а не гарантия того, что каждый ответ является точным, соответствующим возрасту, личным или эмоционально здоровым.
Прослушайте это руководствоОзвучено ИИ · ~3 min
Семьи и школы должны оценить предполагаемый возрастной диапазон, методы обработки данных, меры безопасности, надзор со стороны взрослых, а также способы сообщить о проблеме или исправить ее.
Чат-бот, предназначенный для детей, может использовать более простой язык, фильтры по темам, родительские настройки или управляемые действия. Эти функции могут быть полезны, но семьям следует спросить, чем на самом деле занимается эта служба, какой возраст она поддерживает и что происходит, когда ребенок спрашивает о деликатной теме. Ни один фильтр не уловит каждый небезопасный или вводящий в заблуждение ответ, а дружелюбный к детям тон может сделать неправильный совет заслуживающим доверия. Проверьте сбор данных перед созданием учетной записи. Спросите, сохраняются ли подсказки, загруженные работы, голос, возраст или местоположение; как долго они сохраняются; могут ли они использоваться для улучшения или персонализации услуги; и кто их может видеть. Что касается услуг США, на которые распространяется COPPA, правило FTC касается онлайн-сбора личной информации от детей до 13 лет, включая уведомление и поддающиеся проверке требования о согласии родителей с определенными исключениями. Покрытие зависит от услуги и фактов; в других юрисдикциях другие правила. Школы также должны использовать свои собственные утвержденные инструменты и процессы обеспечения конфиденциальности учащихся. Ищите элементы управления, которые соответствуют потребностям семьи или класса: возрастные настройки, временные ограничения, удаление данных, родительский надзор, отчеты о контенте и эскалация человеческой ситуации. Проверяйте реалистичные подсказки вместе со взрослым и просматривайте ответы; не просите ребенка самостоятельно исследовать опасный контент. Объясните, что чат-бот с искусственным интеллектом — это инструмент, а не человек или терапевт. Сохраните опцию «офлайн» и сообщите детям, к кому обращаться, если разговор сбивает с толку, расстраивает или требует срочности. Перепроверяйте условия и элементы управления при изменении продукта.
Проверьте, рассчитана ли услуга на возраст и уровень чтения ребенка.
Перед использованием в классе проверьте, как он реагирует на запрос опасных инструкций.
Вместе с ребенком проверьте настройки удаления, родительского контроля и эскалации.
Узнайте в школе, кто одобряет использование чат-бота и какие данные об учащихся он может получать.
Чат-боты, ориентированные на детей, добавят больше функций голосовой связи, персонализации и обучения. Эти возможности также могут увеличить объем личного контекста, который получает служба, и вероятность того, что ребенок будет относиться к ней как к надежному компаньону. Этикетки на продуктах могут меняться быстрее, чем независимые доказательства. Семьи должны просматривать обновления, спрашивать, можно ли удалить данные ребенка, и обеспечивать доступность человеческой поддержки для ребенка. Школы могут протестировать инструменты вместе с преподавателями и сотрудниками по обеспечению конфиденциальности, прежде чем учащиеся будут широко их использовать и проверять средства контроля.
Бесплатная рассылка
Три проверенных AI-истории каждое утро буднего дня, написанные простым английским. Бесплатно навсегда, без рекламы.
Одно электронное письмо каждый будний день. Отписаться в один клик. Мы никогда не продаем и не передаем ваш адрес.
Проверьте себя
Мгновенная обратная связь по каждому ответу и общий сертификат с проверяемым идентификатором после прохождения курса.
Поддержите бесплатное образование в области искусственного интеллекта. AI Understanding — это некоммерческая организация 501(c)(3). Никакой рекламы и платного доступа. Сделать пожертвование
Ярлык чат-бота «безопасно для детей» — это заявление о продукте, а не гарантия того, что каждый ответ является точным, соответствующим возрасту, личным или эмоционально здоровым. Семьи и школы должны оценить предполагаемый возрастной диапазон, методы обработки данных, меры безопасности, надзор со стороны взрослых, а также способы сообщить о проблеме или исправить ее.
Ярлык не заменяет оценку характеристик и методов.
Руководство FTC объясняет сферу применения COPPA и его требования к операторам, на которые распространяется действие закона.
Руководство не рекомендует относиться к чат-боту как к человеку или терапевту.
Перед широким использованием тестирование должно охватывать вероятные сценарии и сценарии сбоев.
COPPA – это специфическая система США; другие законы и школьная политика могут отличаться.
Продолжайте учиться
Другие руководства, выбранные по этой теме
ДалееСледующее руководство
Родительский контроль для чат-ботов с искусственным интеллектом
Приложения