# 算法残酷

> 指算法在缺乏上下文同理心的情况下，自动向用户推送虽然符合数据逻辑、但会引发情感创伤的内容（如向刚刚流产的母亲推送婴儿用品广告，或向丧偶者推送“去年的今天”）

- ID: m01298
- 分类: structure
- 领域: 逻辑学

## 定义

指算法在缺乏上下文同理心的情况下，自动向用户推送虽然符合数据逻辑、但会引发情感创伤的内容（如向刚刚流产的母亲推送婴儿用品广告，或向丧偶者推送“去年的今天”）。脚手架作用：反思自动化的阴暗面。它提醒产品设计者，数据不仅仅是数字，背后是鲜活的人。在设计个性化推荐时，必须引入“断路器”机制，允许用户屏蔽特定话题以保护情感安全。

## 机制

指平台算法以单一优化目标（如停留、转化）驱动，对内容创作者与用户施加无情筛选，制造赢家通吃与焦虑。

## 练习

识别算法优化的真实目标；评估其对人与生态的外部性；用多元指标或规则制衡。

## 脚手架用法

反思自动化的阴暗面。它提醒产品设计者，数据不仅仅是数字，背后是鲜活的人。在设计个性化推荐时，必须引入“断路器”机制，允许用户屏蔽特定话题以保护情感安全。

[阅读网页](https://thinkingmodels.site/entries/detail/m01298)