2019 年，德里市政府在约 700 所学校安装了闭路电视摄像头。现在，政府推出了面部识别摄像头——这一措施引发了相关学生严重的隐私问题。
随着时间的推移，目前在德里十几所学校正在进行的试验可能会变得更加广泛。那么为什么它会出现问题以及长期影响会是什么？
监控状态
印度是一个已经严重依赖技术来监管其人民的国家。这Aadhaar 卡数据库是世界上最大的生物识别系统之一。它已在其数据库中保存了约 13 亿人的指纹和虹膜扫描，并用于在人们开设银行账户、寻找新工作、领取国家福利、申请保险、购买房屋以及执行各种其他日常任务时识别人们的身份。
自 12 年前推出 Aadhaar 数据库以来，该数据库已覆盖约 90% 的人口。尽管最初遭到抵制，并且围绕创建大型生物识别存储库存在隐私问题，但大多数持有 Aadhaar 卡的人现在都认为这是良性的。大多数公民相信该系统是安全的，并且是为他们的利益而设计的。
生物识别跟踪的广泛接受令人不安，因为印度仍然缺乏保护个人数据和信息的数据保护法。这应该引起担忧，因为人们的数据是可利用的并且可以被追踪——当涉及儿童数据时，这种担忧会加剧。
意图不明确
研究表明，学校安装闭路电视可以带来一些好处。实施闭路电视的学校已录制多达减少 70%在欺凌中。教师因被摄像机捕捉到的虐待行为而被停职，有证据表明闭路电视可以减少对学生和教师的身体攻击。
然而，如果闭路电视已经实现了必要的减少不可容忍行为的目标，那么质疑增加面部识别的好处就很重要了。到目前为止，当局尚未妥善解决这个问题，这导致人们担心可能不在校舍而是在其他地方进行监控。
结合该国其他地方正在发生的情况来看，这是有道理的，那里的监控技术正在变得流行，并引发了围绕使儿童在成长过程中对监控不敏感的政治意愿的重要问题。考虑最近的提案例如，在勒克瑙，警方计划使用面部识别技术扫描女性在公共场所走动时的面部表情，以寻找骚扰迹象。这是一种大规模的过度行为，引起了有关妇女权利团体和人权倡导者的强烈反对。
此外，专家还表达了担忧关于当局可能如何选择在教室中使用面部识别。例如，该技术可用于监测表明孩子注意力不集中或存在理解困难的面部表情。
这可能导致个别学生被孤立、排斥、纪律处分，甚至可能受到歧视。这就提出了关于谁将使用该技术以及如何做出决策的有效问题。
如果以这种方式使用面部扫描，它有可能影响年轻人在成长期的心理状态。它还提出了关于如何存储和访问信息以及如何影响学生未来接受高等教育的机会的重要考虑因素。
从学校开始建立监控关系可能会带来有意义的社会和行为变化。
知道自己受到监视的人会表现出不同的行为，并且更有可能进行自我审查。例如，他们也不太可能与他们认为可能损害其声誉的其他人交往。
因此，受到持续监视的公民可能会经历更多的社会分裂——排斥行为、歧视和偏见都可能升级。如果像中国那样的社会信用体系也被引入，这种潜力就会增加。
民主也将受到打击，因为自我审查会导致人们更加无力反对根深蒂固的政治制度。这为威权主义和社会范式创造了完美的滋生地，在这种范式中，技术让那些通常选择抗议的人保持沉默。
安全问题
即使不考虑这些深远的社会影响，围绕儿童追踪的安全问题也敲响了警钟。 Aadhaar 卡片数据库已经受到影响重大违规行为，这揭示了政府无法保护敏感的个人信息。
部分原因是印度缺乏数据保护法规，导致政府过于广泛地利用数据，导致攻击面增加，数据泄露、数据泄露以及数据处理不当或滥用的威胁加大。当犯罪分子可能利用所涉及的数据来识别和追踪儿童时，这就变得更加令人不安。
需要记住的重要一点是，面部识别算法的工作原理是创建数据主体面部的数学表示。该生物识别信息可能会被用来将某人的身份欺骗到系统中，这可能会给儿童带来未来的风险——如果他们的数据被试图以电子方式冒充他们的犯罪分子窃取。
由于面部识别算法在识别儿童方面缺乏能力，也存在一些担忧。人权活动人士担心，这可能会导致儿童被错误识别并被指控犯有他们从未犯过的罪行 - 可能导致滥用纪律形式。
由于涉及如此多的风险，公民应该反对在学校安装面部识别的决定。印度政府未能就数据收集、分类和存储的方式提供透明度，而且也暴露出自己无法承诺必要的数据安全水平。
除此之外，人们还担心儿童可能会受到污名化，以及技术如何扩大从学校到监狱的通道，我们必须得出结论，政府仓促做出决定——为了满足自己的目的——而没有适当考虑负面的社会影响。