人工智能和算法是当今世界的主要议题。在过去几年中，许多国家都投入了大量的时间和资金来进行算法的研发和开发。尽管这些算法旨在为人类带来无限的好处，但是近期报道却显示，这些算法也可能会带来不同的结果。在约旦推广的一项旨在减贫的算法中，有需要的人却因为此算法而失去了资格。
最近的一篇科技评论文章揭示了这个惊人的问题，这个基于微观数据的算法意在将福利分配给最需要的家庭和个人，并且可在实际情况下进行高度可靠的预测。 然而，该算法暴露了许多缺陷，其中最突出的缺陷之一是评估程序会自动过滤掉某些人的申请，他们的申请将被系统拒绝。 这可能会对真正需要帮助的人带来灾难性的影响。
这项算法的制定者们称，这个程序能够快速区分那些真正需要帮助和那些不需要帮助的家庭和个人。 然而，该算法的实际应用却证明，它可能会将有需要的人拒之门外。即使这些人通过各种方式说明了他们的需求，该算法也无法考虑他们的情况。
这个故事的主要教训是：在开发和应用算法之前，我们必须要谨慎。 新技术对人类生活有极大的影响，无论是好的还是坏的。 我们必须清楚地知道我们所开发的技术的积极作用和负面影响，才能更好地应对问题并进行改善。否则，这些技术可能会在追求美好愿景时给我们带来不必要的痛苦和惊吓。
了解更多有趣的事情：https://blog.ds3783.com/