Financial audit gamit ang lokal na AI

Pag-audit ng malaking hanay ng mga dokumento nang hindi lumalabas ang datos: conversion, anonymisation, RAG analysis sa mga lokal na model

Isang proyekto upang matuklasan ang maling paggamit ng pondo ng isang corporate group: pinoproseso nang lokal o sa mga ligtas na server ang hanay ng mga dokumento (humigit-kumulang 3.9 GB sa Markdown). Naghatid ang trabaho ng pag-aaral sa mga LLM at GPU infrastructure, pinal na scenario na “kalidad vs. oras” sa iisang H200 GPU na may Qwen2.5-72B at dalawang-antas na eskalasyon (pumipili ng mga kahina-hinalang item ang maliit na model, at ang malaki ang gumagawa ng detalyadong pagsusuri), cost estimate, at roadmap. Gumawa ng mga tool para sa conversion sa Markdown, reversible na anonymisation ng personal na datos, at RAG analysis sa Milvus; nagsagawa ng trial analysis na may pinal na ulat.

Ang gawain

Matukoy kung saan, kailan, at bakit ginastos ang pera, nang hindi ipinapasa ang kumpidensyal na datos sa mga external na serbisyo.

Ano ang nasa loob

• Pag-convert ng PDF, DOCX, XLSX, at iba pang format tungo sa Markdown
• Reversible na anonymisation (Presidio, spaCy NER, Faker): buong pangalan, organisasyon, numero ng telepono, email, petsa, halaga, INN, SNILS, OGRN, bank account, card, IBAN; mga mode ng makatotohanang pamalit at placeholder, paglilipat ng petsa, pag-scale ng halaga, mapping table para sa de-anonymisation
• RAG analysis ng mga kaugnay na dokumento (kontrata, invoice, payment order, sulat, completion certificate) at graph ng mga entity at transaksyon na may mga patakaran sa pagtuklas ng anomalya
• Air-gapped na mode para sa pagtatrabaho nang walang external na API; mga ulat sa Markdown, JSON, at Excel

Machine translation — kasalukuyang pinapasuri.