创新的人工智能工具
该大学正在使用人工智能搜索技术来构建新型的生成式人工智能体验。
生成式人工智能技能
大学 IT 团队开发了多项技能，可为大学团队和学生构建新一代人工智能驱动的应用程序。
多元化和可访问性目标
一个概念验证旨在通过有针对性的个性化信息帮助学生获得经济援助，这些信息会突出显示截止日期、后续步骤以及浏览援助流程的相关资源。
大学提升生成式人工智能技能，并准备为学生和学术界提供新一代人工智能驱动的工具
佐治亚州立大学在亚特兰大都会区拥有七个校区，共有 50,000 多名学生，是本科教学排名第一的公立大学，并且根据《美国新闻与世界报道》2024 年的报道，是美国第二最具创新力的大学。
IT 战略计划与开发总监 Jaroslav Klc 负责创建支持学生、教师和管理人员日常需求的应用程序，同时优化效率并实施面向未来的技术的战略使用。这包括 70 个自定义解决方案和集成，其中最繁忙的是学生仪表板，学生可以在这里获取有关其学生身份的各种信息。其他应用程序在系统之间移动数据、连接到第三方工具并与校园支付系统集成，以便学生可以规划他们的财务状况。
密切关注应用程序性能是 IT 团队的首要任务。但由于只有一小群开发人员和分析师，Klc 急于在各个应用程序中部署单一的可观测性解决方案。Klc 说：“以前，我们使用各种平台自带的本地可观测性工具。我们使用它们的内置软件进行监控和日志分析，但我们无法轻松创建自定义指标并聚合来自其他来源的数据。”与没有接受过特定环境培训的人员共享数据和仪表板也很困难。Klc 说：“我们构建了一个统一的系统，用于提供对我们运营和学生参与度仪表板的深入了解。有了这个系统，现在可以更轻松地收集、可视化和共享数据访问权限，同时遵守安全和合规规则。”
该系统使用 AWS 上的 Elasticsearch 和 Kibana 仪表板来摄取、存储和分析运营数据，并显示关键的性能信息，包括应用程序流量、错误报告、计划作业和 IT 服务的成本。
该系统还使用综合监控。“我们不想等到客户告诉我们某个地方坏了。借助系统的报告、可视化和警报功能，我们可以主动检测潜在的错误并在它们发生时立即解决，以免给应用程序用户带来不便，”他说。
证明生成式 AI 的价值
简化学生仪表板等应用程序的运营工作，使他们能够尝试新技术来增强仪表板的功能，包括向量搜索和生成式 AI。Klc 说：“我们构建了一个概念验证，展示了 AI 如何支持大学和学生的目标。”
Klc 选择学生经济援助申请和付款流程作为实验的主题。“经济援助流程可能很复杂，因为学生试图了解他们是否有资格获得奖学金和助学金。需要帮助但找不到资金的学生可能不太可能完成大学学位。学生财务服务团队与我们合作，构想了一种服务，使学生能够快速了解他们在获得资助和确保余额支付方面的当前状态和个性化选择。”
他们的搜索应用程序将文档分割成段落，在 Elasticsearch 中索引这些文档以执行语义搜索，检索相关段落。有了相关段落，团队构建一个上下文，并使用 Amazon Bedrock 模型来组成对预定义问题的答案。
除了可以使用传统关键字匹配和其他条件检索的内容外，Klc 还希望使用一个大型语言模型，根据学生的记录、经济援助资源、活动和截止日期，为学生生成高度个性化的信息。
利用检索模型加速前进
除了使用 Elastic 的 ELSER (Elastic Learned Sparse EncodeR) 模型进行精确的关键字匹配外，概念验证应用程序还允许客户根据上下文含义和用户意图执行语义搜索。Klc 说：“学生经济援助结合了来自多个来源的大量内容。我们处理所有这些信息，将其矢量化以进行语义搜索，并显示回答两个关键问题的内容。首先，鉴于学生的情况，哪些经济援助资源最相关和最有帮助？其次，他们必须遵守哪些截止日期？”
该解决方案使用知识库来为提示构建上下文。系统添加问题和学生信息，然后模型生成个性化内容。“我们从多个地方收集内容，对文本进行分块和矢量化，然后使用 AI 进行预处理，以创建有意义且相关的块。”
为 RAG 做好准备
ELSER 为大学的检索增强生成 (RAG) 工作流提供底层支持，该工作流使用来自私有或专有数据源的信息来补充文本生成。对于财务应用程序工具，该工作流将使用 ELSER 模型从大学数据源（例如学生信息系统）检索的上下文，与告诉生成式 AI 模型如何处理信息的指令相结合。当学生访问 AI 增强的财务仪表板时，他们会看到个性化的内容，反映他们当前的状态以及有关与其状态相关的外部经济援助资源的信息。在许多情况下，他们可能会收到关于他们有资格获得的经济援助资源的截止日期的警报，该截止日期基于外部资源描述中包含的一组条件。使用确定性规则和更传统的确定性逻辑很难实现这一点。
通过概念验证的创建，IT 团队获得了宝贵的经验，这将有助于其他部门利用 AI 驱动的搜索。“该项目在两个重要领域取得了成功，”Klc 说。“一是创建一个可行的 AI 模型，可以试用其在帮助学生应对申请经济援助的复杂性方面的潜力。二是构建和发展技能，以利用新兴的 AI 技术，尤其是生成式 AI 子领域。”
