אימון והערכה

‫Document AI מאפשר לכם לאמן גרסאות חדשות של מעבדים באמצעות נתוני אימון משלכם, ולהעריך את האיכות של גרסת המעבד בהשוואה לנתוני בדיקה משלכם.

האפשרות הזו שימושית כשרוצים להשתמש במעבד בהתאמה אישית. יש מעבד Document AI לסוג המסמך שלך, אבל אפשר לאמן מחדש גרסה מותאמת אישית שלו כדי שתתאים לצרכים שלך.

בדרך כלל, האימון וההערכה מתבצעים במקביל כדי להגיע לגרסה של מעבד באיכות גבוהה שאפשר להשתמש בה.

Document AI

‫Document AI מאפשר לכם ליצור כלי חילוץ בהתאמה אישית, שמחלץ ישויות ממסמכים מסוג מסוים, למשל, הפריטים בתפריט או השם והפרטים ליצירת קשר מקורות חיים.

בניגוד למעבדים אחרים, מעבדים בהתאמה אישית לא מגיעים עם גרסאות מעובדות מראש, ולכן הם לא יכולים לעבד מסמכים עד שתאמנו גרסה מאפס.

כדי להתחיל להשתמש ב-Document AI, אפשר לעיין במאמר בנושא יצירת מעבד מותאם אישית משלכם.

עדכון של מעבד

אתם יכולים להמשיך לאמן גרסאות חדשות של מעבדים כדי לשפר את הדיוק של הנתונים, לחלץ שדות מותאמים אישית נוספים מהמסמכים ולהוסיף תמיכה בשפות חדשות.

אימון מתקדם מתבצע באמצעות למידת העברה בגרסאות של מעבדים שאומנו מראש על ידי Google, ובדרך כלל נדרשים פחות נתונים מאשר באימון מאפס.

כדי להתחיל, אפשר לעיין במאמר בנושא המשך אימון של מעבד שאומן מראש.

מעבדים נתמכים

לא כל המעבדים המיוחדים תומכים בהדרכה. אלה המעבדים שתומכים באימון.

שיקולים והמלצות לגבי נתונים

האיכות והכמות של הנתונים קובעות את האיכות של האימון, האימון הנוסף וההערכה.

החלק של קבלת קבוצה של מסמכים מייצגים מהעולם האמיתי ומתן מספיק תוויות באיכות גבוהה הוא בדרך כלל החלק שלוקח הכי הרבה זמן ומשאבים בתהליך.

מספר המסמכים

אם לכל המסמכים יש פורמט דומה (לדוגמה, טופס קבוע עם שונות נמוכה מאוד), נדרשים פחות מסמכים כדי להשיג דיוק. ככל שהשונות גבוהה יותר, כך נדרשים יותר מסמכים.

בתרשימים הבאים מוצגת הערכה גסה של מספר המסמכים שנדרשים כדי שמחלץ מסמכים בהתאמה אישית ישיג ציון איכות מסוים.

מגוון קטן	שונות גבוהה

יצירת תוויות לנתונים

כדאי לעיין באפשרויות לתווית מסמכים ולוודא שיש לכם מספיק משאבים להוספת הערות למסמכים במערך הנתונים.

אימון מודלים

מעבדי חילוץ מותאמים אישית יכולים להשתמש בסוגים שונים של מודלים, בהתאם לתרחיש השימוש הספציפי ולנתוני האימון הזמינים.

• מודל בהתאמה אישית: מודל שמשתמש בנתוני אימון מתויגים.
  • מבוססות על תבנית: מסמכים עם פריסה קבועה.
  • מבוסס-מודל: מסמכים עם וריאציות מסוימות בפריסה.
• מודל AI גנרטיבי: מבוסס על מודלים בסיסיים שעברו אימון מראש ודורשים אימון נוסף מינימלי.

בטבלה הבאה מוצגים תרחישי שימוש שמתאימים לכל סוג מודל.

איך משפרים את הביצועים של מעבד באמצעות תיאורי נכסים

מתי כדאי להשתמש במעבד אחר

הנה כמה דוגמאות למקרים שבהם כדאי לשקול אפשרויות אחרות מלבד Document AI Workbench, או להתאים את תהליך העבודה:

• פורמטים מסוימים של קלט מבוסס-טקסט (‎.txt,‏ ‎.html,‏ ‎.docx,‏ ‎.md וכו') לא נתמכים ב-Document AI Workbench. כדאי לשקול שימוש במוצרים אחרים לעיבוד שפה מובנים מראש או בהתאמה אישית ב- Google Cloud, כמו Cloud Natural Language API.
• הסכימה של הכלי המותאם אישית לחילוץ מסמכים תומכת בעד 150 תוויות של ישויות. אם הלוגיקה העסקית שלכם דורשת יותר מ-150 ישויות בהגדרת הסכימה, כדאי לאמן כמה מעבדים, שכל אחד מהם יתמקד בקבוצת משנה של ישויות.

איך מאמנים מעבד

בהנחה שכבר יצרתם מעבד שתומך באימון או באימון מחדש והוספתם תוויות למערך הנתונים, אתם יכולים לאמן גרסה חדשה של מעבד מאפס. אפשר גם להמשיך לאמן גרסה חדשה של מעבד על סמך גרסה קיימת.

גרסת מעבד האימון

from typing import Optional

from google.api_core.client_options import ClientOptions
from google.cloud import documentai  # type: ignore

# TODO(developer): Uncomment these variables before running the sample.
# project_id = 'YOUR_PROJECT_ID'
# location = 'YOUR_PROCESSOR_LOCATION' # Format is 'us' or 'eu'
# processor_id = 'YOUR_PROCESSOR_ID'
# processor_version_display_name = 'new-processor-version'
# train_data_uri = 'gs://bucket/directory/' # (Optional)
# test_data_uri = 'gs://bucket/directory/' # (Optional)


def train_processor_version_sample(
    project_id: str,
    location: str,
    processor_id: str,
    processor_version_display_name: str,
    train_data_uri: Optional[str] = None,
    test_data_uri: Optional[str] = None,
) -> None:
    # You must set the api_endpoint if you use a location other than 'us', e.g.:
    opts = ClientOptions(api_endpoint=f"{location}-documentai.googleapis.com")

    client = documentai.DocumentProcessorServiceClient(client_options=opts)

    # The full resource name of the processor
    # e.g. `projects/{project_id}/locations/{location}/processors/{processor_id}
    parent = client.processor_path(project_id, location, processor_id)

    processor_version = documentai.ProcessorVersion(
        display_name=processor_version_display_name
    )

    # If train/test data is not supplied, the default sets in the Cloud Console will be used
    input_data = documentai.TrainProcessorVersionRequest.InputData(
        training_documents=documentai.BatchDocumentsInputConfig(
            gcs_prefix=documentai.GcsPrefix(gcs_uri_prefix=train_data_uri)
        ),
        test_documents=documentai.BatchDocumentsInputConfig(
            gcs_prefix=documentai.GcsPrefix(gcs_uri_prefix=test_data_uri)
        ),
    )

    request = documentai.TrainProcessorVersionRequest(
        parent=parent, processor_version=processor_version, input_data=input_data
    )

    operation = client.train_processor_version(request=request)
    # Print operation details
    print(operation.operation.name)
    # Wait for operation to complete
    response = documentai.TrainProcessorVersionResponse(operation.result())

    metadata = documentai.TrainProcessorVersionMetadata(operation.metadata)

    print(f"New Processor Version:{response.processor_version}")
    print(f"Training Set Validation: {metadata.training_dataset_validation}")
    print(f"Test Set Validation: {metadata.test_dataset_validation}