File size: 39,732 Bytes
cfb30f7
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
e2eefb1
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
f608eeb
 
cfb30f7
 
 
 
 
 
ce20667
 
 
 
 
 
 
 
 
 
 
 
 
b6d9912
ce20667
 
 
 
 
cfb30f7
ce20667
690c97d
ce20667
 
e2eefb1
ce20667
babb4f3
690c97d
 
 
 
ce20667
cfb30f7
 
 
 
 
 
 
 
 
 
7bc478b
 
900772f
7bc478b
900772f
7bc478b
900772f
7bc478b
900772f
7bc478b
 
 
900772f
7bc478b
 
 
 
900772f
 
 
7bc478b
 
900772f
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
7bc478b
900772f
 
7bc478b
900772f
 
7bc478b
900772f
7bc478b
 
 
 
 
 
 
 
 
900772f
 
7bc478b
900772f
7bc478b
900772f
 
 
7bc478b
 
900772f
 
 
 
 
7bc478b
 
 
900772f
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
cfb30f7
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
ce20667
cfb30f7
 
 
 
 
 
 
 
690c97d
cfb30f7
690c97d
ce20667
690c97d
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
900772f
 
 
690c97d
babb4f3
690c97d
900772f
 
 
 
 
 
 
 
 
 
 
690c97d
 
900772f
690c97d
 
900772f
 
 
 
 
 
 
 
 
 
 
 
 
 
 
690c97d
900772f
690c97d
 
 
 
 
 
 
 
 
cfb30f7
 
690c97d
cfb30f7
 
 
690c97d
cfb30f7
690c97d
 
cfb30f7
 
 
900772f
690c97d
900772f
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
690c97d
cfb30f7
690c97d
900772f
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
cfb30f7
babb4f3
 
 
 
 
900772f
 
 
 
 
 
 
 
 
 
 
 
 
 
 
babb4f3
900772f
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
babb4f3
 
 
900772f
 
 
 
 
 
 
babb4f3
 
 
900772f
babb4f3
 
900772f
 
 
 
babb4f3
900772f
babb4f3
900772f
babb4f3
 
 
 
 
 
 
 
 
900772f
babb4f3
900772f
babb4f3
 
 
 
 
 
 
 
 
 
900772f
 
690c97d
900772f
 
 
 
690c97d
 
 
900772f
 
 
 
 
 
 
 
690c97d
 
 
 
cfb30f7
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
ce20667
 
cfb30f7
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
690c97d
 
e2eefb1
690c97d
cfb30f7
 
690c97d
 
 
 
 
 
cfb30f7
 
 
ce20667
cfb30f7
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
 
ce20667
 
 
 
 
 
 
 
 
 
 
 
cfb30f7
ce20667
cfb30f7
ce20667
 
 
 
 
cfb30f7
ce20667
 
 
b24cb60
ce20667
b6d9912
ce20667
 
 
 
 
 
cfb30f7
ce20667
 
b24cb60
ce20667
cfb30f7
ce20667
 
 
 
b6d9912
cfb30f7
 
 
 
b24cb60
cfb30f7
 
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
207
208
209
210
211
212
213
214
215
216
217
218
219
220
221
222
223
224
225
226
227
228
229
230
231
232
233
234
235
236
237
238
239
240
241
242
243
244
245
246
247
248
249
250
251
252
253
254
255
256
257
258
259
260
261
262
263
264
265
266
267
268
269
270
271
272
273
274
275
276
277
278
279
280
281
282
283
284
285
286
287
288
289
290
291
292
293
294
295
296
297
298
299
300
301
302
303
304
305
306
307
308
309
310
311
312
313
314
315
316
317
318
319
320
321
322
323
324
325
326
327
328
329
330
331
332
333
334
335
336
337
338
339
340
341
342
343
344
345
346
347
348
349
350
351
352
353
354
355
356
357
358
359
360
361
362
363
364
365
366
367
368
369
370
371
372
373
374
375
376
377
378
379
380
381
382
383
384
385
386
387
388
389
390
391
392
393
394
395
396
397
398
399
400
401
402
403
404
405
406
407
408
409
410
411
412
413
414
415
416
417
418
419
420
421
422
423
424
425
426
427
428
429
430
431
432
433
434
435
436
437
438
439
440
441
442
443
444
445
446
447
448
449
450
451
452
453
454
455
456
457
458
459
460
461
462
463
464
465
466
467
468
469
470
471
472
473
474
475
476
477
478
479
480
481
482
483
484
485
486
487
488
489
490
491
492
493
494
495
496
497
498
499
500
501
502
503
504
505
506
507
508
509
510
511
512
513
514
515
516
517
518
519
520
521
522
523
524
525
526
527
528
529
530
531
532
533
534
535
536
537
538
539
540
541
542
543
544
545
546
547
548
549
550
551
552
553
554
555
556
557
558
559
560
561
562
563
564
565
566
567
568
569
570
571
572
573
574
575
576
577
578
579
580
581
582
583
584
585
586
587
588
589
590
591
592
593
594
595
596
597
598
599
600
601
602
603
604
605
606
607
608
609
610
611
612
613
614
615
616
617
618
619
620
621
622
623
624
625
626
627
628
629
630
631
632
633
634
635
636
637
638
639
640
641
642
643
644
645
646
647
648
649
650
651
652
653
654
655
656
657
658
659
660
661
662
663
664
665
666
667
668
669
670
671
672
673
674
675
676
677
678
679
680
681
682
683
684
685
686
687
688
689
690
691
692
693
694
695
696
697
698
699
700
701
702
703
704
705
706
707
708
709
710
711
712
713
714
715
716
717
718
719
720
721
722
723
724
725
726
727
728
729
730
731
732
733
734
735
736
737
738
739
740
741
742
743
744
745
746
747
748
749
750
751
752
753
754
755
756
757
758
759
760
761
762
763
764
765
766
767
768
769
770
771
772
773
774
775
776
777
778
779
780
781
782
783
784
785
786
787
788
789
790
791
792
793
794
795
796
797
798
799
800
801
802
803
804
805
806
807
808
809
810
811
812
813
814
815
816
817
818
819
820
821
822
823
824
825
826
827
828
829
830
"""
🤗 SkladBot Free AI Microservice
Hugging Face Spaces микросервис для БЕСПЛАТНОЙ обработки складских документов

Возможности:
- TrOCR для печатного и рукописного текста
- LayoutLM для понимания структуры документов
- Table Transformer для обработки таблиц
- Gradio API для REST запросов
- 100% БЕСПЛАТНО - 20k запросов/месяц
"""

import gradio as gr
import torch
import numpy as np
from PIL import Image
import io
import base64
import json
import re
from datetime import datetime
from typing import Dict, List, Any, Optional

# Transformers models
from transformers import (
    TrOCRProcessor, VisionEncoderDecoderModel,
    pipeline,
    AutoTokenizer, AutoModelForTokenClassification
)

# Импортируем наш кастомный токенайзер
from custom_tokenizers import Byt5LangTokenizer

# Регистрируем кастомный токенайзер в transformers
from transformers import AutoConfig, AutoTokenizer
from transformers.models.auto.tokenization_auto import TOKENIZER_MAPPING
from transformers.tokenization_utils_base import TOKENIZER_CONFIG_FILE

# Регистрация кастомного токенайзера
if 'Byt5LangTokenizer' not in dir():
    try:
        # Добавляем токенайзер в систему автоматического обнаружения transformers
        from transformers.models.auto.tokenization_auto import TOKENIZER_MAPPING, TOKENIZER_MAPPING_NAMES
        from transformers.tokenization_utils_base import TOKENIZER_CONFIG_FILE

        print("🔄 Регистрируем кастомный токенайзер Byt5LangTokenizer...")
    except ImportError as e:
        print(f"⚠️ Предупреждение при импорте модулей трансформеров: {e}")

from surya.table_rec import TableRecPredictor

class FreeAIOrchestrator:
    """Координатор БЕСПЛАТНЫХ AI сервисов для складских документов"""

    def __init__(self):
        print("🚀 Инициализация SkladBot Free AI...")

        # TrOCR для печатного текста (БЕСПЛАТНО)
        self.printed_processor = TrOCRProcessor.from_pretrained("microsoft/trocr-base-printed")
        self.printed_model = VisionEncoderDecoderModel.from_pretrained("microsoft/trocr-base-printed")

        # TrOCR для рукописного текста (БЕСПЛАТНО)
        self.handwritten_processor = TrOCRProcessor.from_pretrained("microsoft/trocr-base-handwritten")
        self.handwritten_model = VisionEncoderDecoderModel.from_pretrained("microsoft/trocr-base-handwritten")

        # LayoutLM для понимания документов (БЕСПЛАТНО)
        self.document_qa = pipeline(
            "document-question-answering",
            model="impira/layoutlm-document-qa"
        )

        # Table Transformer для таблиц (БЕСПЛАТНО)
        self.table_detector = pipeline(
            "object-detection",
            model="microsoft/table-transformer-structure-recognition"
        )

        # NEW: Добавляем интеграцию с Surya Table (БЕСПЛАТНО)
        try:
            # Регистрируем кастомный токенайзер перед загрузкой модели
            print("🔄 Инициализация кастомного токенайзера для Surya Table...")

            # Используем пайплайн с указанием нашего токенайзера
            self.surya_table_model = TableRecPredictor()
            print("✅ Surya Table модель загружена успешно")
            self.surya_table_available = True
        except Exception as e:
            print(f"⚠️ Не удалось загрузить Surya Table: {e}")
            self.surya_table_available = False

        self.stats = {
            "total_requests": 0,
            "successful_extractions": 0,
            "avg_confidence": 0.0,
            "start_time": datetime.now()
        }

        print("✅ SkladBot Free AI готов к работе!")

    async def extract_warehouse_data(self, image, document_type="auto"):
        """Главная функция - извлечение данных из складских документов"""

        self.stats["total_requests"] += 1

        try:
            # Конвертация изображения
            if isinstance(image, str):
                # Base64 строка
                image_data = base64.b64decode(image)
                image = Image.open(io.BytesIO(image_data))

            # 1. Определение типа документа
            doc_type = await self.classify_document_type(image)
            if document_type != "auto":
                doc_type = document_type

            print(f"🔍 Определен тип документа: {doc_type}")

            # 2. Выбор стратегии обработки
            extraction_results = []

            # Специальная обработка для таблиц
            if doc_type == "table" or document_type == "table":
                print("📊 Обнаружена таблица, запускаем специальную обработку...")
                table_result = await self.extract_table_data(image)

                # Подробное логирование результатов обработки таблицы
                print(f"📋 Результат обработки таблицы: {json.dumps(table_result, indent=2)}")

                # Добавляем результат в общий список
                extraction_results.append({
                    "method": table_result.get("model", "table_recognition"),
                    "data": table_result,
                    "confidence": table_result.get("confidence", 0.9)
                })

                # Для таблиц возвращаем результат сразу
                # Преобразуем строки таблицы в извлеченные элементы
                items = []
                if "rows" in table_result and table_result["rows"]:
                    for row in table_result["rows"]:
                        item = {
                            "name": row.get("name", ""),
                            "quantity": row.get("quantity", 0),
                            "article": row.get("article", ""),
                            "price": row.get("price", 0),
                            "confidence": 0.9
                        }
                        items.append(item)

                # Если строки извлечены успешно, возвращаем результат
                if items:
                    print(f"✅ Извлечено {len(items)} товаров из таблицы")
                    return {
                        "success": True,
                        "document_type": "table",
                        "extracted_items": items,
                        "suggestions": [],
                        "raw_extractions": extraction_results,
                        "confidence": table_result.get("confidence", 0.9),
                        "processing_time": f"{datetime.now().timestamp():.2f}s",
                        "cost": 0.0  # ВСЕГДА БЕСПЛАТНО!
                    }

            # Стандартная обработка для других типов документов
            # TrOCR для печатного текста
            printed_text = await self.extract_printed_text(image)
            extraction_results.append({
                "method": "trocr_printed",
                "text": printed_text,
                "confidence": 0.85
            })

            # TrOCR для рукописного текста (если нужно)
            if doc_type in ["handwritten", "mixed"]:
                handwritten_text = await self.extract_handwritten_text(image)
                extraction_results.append({
                    "method": "trocr_handwritten",
                    "text": handwritten_text,
                    "confidence": 0.80
                })

            # LayoutLM для структурированного понимания
            if doc_type in ["invoice", "table", "form"]:
                structured_data = await self.extract_structured_data(image, doc_type)
                extraction_results.append({
                    "method": "layoutlm",
                    "data": structured_data,
                    "confidence": 0.90
                })

            # 3. Объединение и обработка результатов
            final_result = await self.merge_extraction_results(extraction_results, doc_type)

            # 4. Парсинг складских команд
            warehouse_commands = await self.parse_warehouse_commands(final_result)

            # 5. Генерация предложений
            suggestions = await self.generate_smart_suggestions(warehouse_commands)

            self.stats["successful_extractions"] += 1

            return {
                "success": True,
                "document_type": doc_type,
                "extracted_items": warehouse_commands,
                "suggestions": suggestions,
                "raw_extractions": extraction_results,
                "confidence": self.calculate_overall_confidence(extraction_results),
                "processing_time": f"{datetime.now().timestamp():.2f}s",
                "cost": 0.0  # ВСЕГДА БЕСПЛАТНО!
            }

        except Exception as e:
            print(f"❌ Ошибка обработки документа: {str(e)}")
            import traceback
            traceback.print_exc()
            return {
                "success": False,
                "error": str(e),
                "document_type": "unknown",
                "extracted_items": [],
                "suggestions": [],
                "confidence": 0.0,
                "cost": 0.0
            }

    async def classify_document_type(self, image):
        """Определение типа документа по его содержимому"""
        try:
            # Проверяем, не является ли документ таблицей
            if self._is_likely_table(image):
                print("📊 Изображение похоже на таблицу на основе анализа структуры")
                return "table"

            # Анализируем изображение на наличие рукописного текста
            # Это приблизительная оценка, можно улучшить

            # Проверяем наличие печатного текста
            printed_text = await self.extract_printed_text(image)
            if printed_text and len(printed_text) > 50:
                # Проверяем наличие характерных для накладных или счетов ключевых слов
                invoice_keywords = ["счет", "накладная", "фактура", "товар", "поставщик", "итого", "сумма", "количество"]
                if any(keyword in printed_text.lower() for keyword in invoice_keywords):
                    return "invoice"

                # Проверяем наличие ключевых слов для других типов документов
                form_keywords = ["форма", "заявка", "анкета", "заполните"]
                if any(keyword in printed_text.lower() for keyword in form_keywords):
                    return "form"

                # По умолчанию для документов с текстом
                return "document"

            # По умолчанию, если не можем определить тип
            return "unknown"

        except Exception as e:
            print(f"⚠️ Ошибка при определении типа документа: {e}")
            return "unknown"

    def _is_likely_table(self, image):
        """Определение вероятности, что изображение содержит таблицу"""
        try:
            # Конвертируем изображение в numpy array
            import numpy as np
            from PIL import Image

            # Если это не PIL Image, конвертируем
            if not isinstance(image, Image.Image):
                if isinstance(image, str):
                    # Обработка base64
                    if image.startswith('data:image'):
                        image_data = base64.b64decode(image.split(',')[1])
                        image = Image.open(io.BytesIO(image_data))
                    else:
                        # Обработка пути к файлу
                        image = Image.open(image)
                else:
                    # Если передан bytes
                    image = Image.open(io.BytesIO(image))

            # Конвертируем в grayscale
            if image.mode != 'L':
                img_gray = image.convert('L')
            else:
                img_gray = image

            # Преобразуем в numpy array
            img_array = np.array(img_gray)

            # 1. Проверка на наличие горизонтальных и вертикальных линий
            # Используем простой градиентный детектор

            # Горизонтальный градиент (для вертикальных линий)
            h_gradient = np.abs(np.diff(img_array, axis=1))
            h_lines = np.sum(h_gradient > 50, axis=1)  # Подсчет точек с большим градиентом

            # Вертикальный градиент (для горизонтальных линий)
            v_gradient = np.abs(np.diff(img_array, axis=0))
            v_lines = np.sum(v_gradient > 50, axis=0)  # Подсчет точек с большим градиентом

            # 2. Анализ равномерности распределения линий
            # Таблицы обычно имеют регулярно расположенные линии

            # Находим пики в распределении линий (возможные линии таблицы)
            h_peaks = np.sum(h_lines > np.mean(h_lines) + np.std(h_lines))
            v_peaks = np.sum(v_lines > np.mean(v_lines) + np.std(v_lines))

            # 3. Проверка на наличие достаточного количества линий
            min_lines_for_table = 3  # Минимум 3 линии для таблицы

            # Если обнаружено достаточное количество как горизонтальных, так и вертикальных линий
            if h_peaks >= min_lines_for_table and v_peaks >= min_lines_for_table:
                print(f"📊 Обнаружены линии таблицы: {h_peaks} горизонтальных, {v_peaks} вертикальных")
                return True

            # 4. Проверка на регулярную структуру (равномерные промежутки между линиями)
            # Это более сложный анализ, но можно упростить

            # 5. Соотношение сторон документа - многие таблицы имеют характерные пропорции
            aspect_ratio = image.width / image.height
            if 0.7 <= aspect_ratio <= 1.5:  # Таблицы часто примерно квадратные или слегка прямоугольные
                # Дополнительный фактор в пользу таблицы
                if h_peaks >= min_lines_for_table - 1 or v_peaks >= min_lines_for_table - 1:
                    print(f"📊 Соотношение сторон ({aspect_ratio:.2f}) и линии указывают на таблицу")
                    return True

            return False

        except Exception as e:
            print(f"⚠️ Ошибка при анализе таблицы: {e}")
            return False

    async def extract_printed_text(self, image):
        """Извлечение печатного текста через TrOCR"""
        try:
            pixel_values = self.printed_processor(image, return_tensors="pt").pixel_values
            generated_ids = self.printed_model.generate(pixel_values)
            generated_text = self.printed_processor.batch_decode(generated_ids, skip_special_tokens=True)[0]
            return generated_text
        except Exception as e:
            print(f"❌ Ошибка TrOCR печатный: {e}")
            return ""

    async def extract_handwritten_text(self, image):
        """Извлечение рукописного текста через TrOCR"""
        try:
            pixel_values = self.handwritten_processor(image, return_tensors="pt").pixel_values
            generated_ids = self.handwritten_model.generate(pixel_values)
            generated_text = self.handwritten_processor.batch_decode(generated_ids, skip_special_tokens=True)[0]
            return generated_text
        except Exception as e:
            print(f"❌ Ошибка TrOCR рукописный: {e}")
            return ""

    async def extract_structured_data(self, image, doc_type):
        """Структурированное понимание документа через LayoutLM"""
        try:
            # Определяем вопросы на основе типа документа
            questions = self.get_document_questions(doc_type)

            results = {}
            for question in questions:
                try:
                    result = self.document_qa(image=image, question=question)
                    results[question] = result["answer"]
                except:
                    results[question] = ""

            return results
        except Exception as e:
            print(f"❌ Ошибка LayoutLM: {e}")
            return {}

    async def extract_table_data(self, image):
        """Извлечение табличных данных через специализированные модели"""
        try:
            # Проверка наличия модели Surya Table
            if hasattr(self, 'surya_table_available') and self.surya_table_available:
                try:
                    # Попытка использования Surya Table для структурированного распознавания таблиц
                    print("🔍 Используем Surya Table для структурированного распознавания таблицы...")

                    # Преобразуем PIL Image в формат, необходимый для модели
                    if isinstance(image, str):
                        # Если передан путь или base64
                        if image.startswith('data:image'):
                            # Обработка base64
                            image_data = base64.b64decode(image.split(',')[1])
                            pil_image = Image.open(io.BytesIO(image_data))
                        else:
                            # Обработка пути к файлу
                            pil_image = Image.open(image)
                    elif isinstance(image, Image.Image):
                        pil_image = image
                    else:
                        # Если передан bytes
                        pil_image = Image.open(io.BytesIO(image))

                    # Предобработка изображения для улучшения распознавания
                    pil_image = self._preprocess_image_for_tables(pil_image)

                    # Распознаем таблицу через Surya Table
                    table_result = self.surya_table_model([pil_image])

                    # Выводим подробную информацию о результате для отладки
                    print(f"📋 Результат Surya Table: {table_result}")

                    # Подробная отладочная информация
                    if isinstance(table_result, list):
                        print(f"📊 Длина результата: {len(table_result)}")
                        if len(table_result) > 0:
                            print(f"📊 Тип первого элемента: {type(table_result[0])}")
                            if isinstance(table_result[0], dict):
                                print(f"📊 Ключи первого элемента: {table_result[0].keys()}")

                    # Преобразуем результат в структурированный формат
                    try:
                        structured_rows = []
                        # Результат может быть в разных форматах
                        if isinstance(table_result, list) and len(table_result) > 0:
                            if isinstance(table_result[0], dict):
                                if 'cells' in table_result[0]:
                                    structured_rows = self._parse_surya_table(table_result[0])
                                    print(f"✅ Извлечено {len(structured_rows)} строк из таблицы")

                        # Если у нас есть строки, возвращаем результат
                        if structured_rows:
                            return {
                                "success": True,
                                "type": "table",
                                "model": "surya_table",
                                "rows": structured_rows,
                                "raw_text": self._extract_text_from_rows(structured_rows),
                                "confidence": 0.95
                            }
                        else:
                            print("⚠️ Surya Table не смогла извлечь строки таблицы")
                    except Exception as parse_error:
                        print(f"⚠️ Ошибка парсинга результата Surya Table: {parse_error}")
                        # Продолжаем с запасным вариантом

                except Exception as surya_error:
                    print(f"⚠️ Ошибка Surya Table, используем запасной вариант: {surya_error}")

            # Запасной вариант: Table Transformer для определения местоположения таблиц
            print("🔍 Используем Table Transformer для определения местоположения таблиц...")
            table_detection = self.table_detector(image)

            # Если обнаружены таблицы, используем TrOCR для извлечения текста из них
            table_data = []
            for detection in table_detection:
                if detection["label"] == "table" and detection["score"] > 0.7:
                    # Вырезаем область таблицы
                    table_data.append({
                        "box": detection["box"],
                        "score": detection["score"],
                        "type": "table"
                    })

            # Если таблицы обнаружены, возвращаем данные о них
            if table_data:
                return {
                    "success": True,
                    "type": "table",
                    "model": "table_transformer",
                    "rows": [],  # Пока нет извлеченных строк
                    "detection": table_data,
                    "confidence": 0.75
                }

            # Если таблицы не обнаружены, возвращаем пустой результат
            return {
                "success": True,
                "type": "table",
                "model": "fallback",
                "rows": [],
                "confidence": 0.5
            }

        except Exception as e:
            print(f"❌ Ошибка распознавания таблицы: {e}")
            return {
                "success": False,
                "error": str(e),
                "type": "table",
                "model": "error",
                "rows": [],
                "confidence": 0.0
            }

    def _preprocess_image_for_tables(self, image):
        """Предобработка изображения для улучшения распознавания таблиц"""
        try:
            # Конвертируем в RGB если нужно
            if image.mode != 'RGB':
                image = image.convert('RGB')

            # Применяем повышение контраста для лучшего распознавания линий таблицы
            import numpy as np
            from PIL import ImageEnhance

            # Увеличиваем контраст
            enhancer = ImageEnhance.Contrast(image)
            image = enhancer.enhance(1.5)  # Увеличиваем контраст на 50%

            # Увеличиваем резкость
            enhancer = ImageEnhance.Sharpness(image)
            image = enhancer.enhance(1.5)  # Увеличиваем резкость на 50%

            return image
        except Exception as e:
            print(f"⚠️ Ошибка предобработки изображения: {e}")
            return image

    def _parse_surya_table(self, surya_result):
        """Парсинг результата Surya в структурированные данные"""
        rows = []
        headers = {}

        # Печатаем полную структуру результата для отладки
        print(f"🔍 Анализ структуры Surya результата: {surya_result.keys()}")

        # Проверяем наличие ключа cells
        if 'cells' not in surya_result:
            print("⚠️ В результате Surya нет ключа 'cells'")
            return rows

        cells = surya_result.get('cells', [])
        print(f"📊 Количество ячеек: {len(cells)}")

        if len(cells) > 0:
            # Печатаем структуру первой ячейки для отладки
            print(f"📊 Пример ячейки: {cells[0]}")

        # First pass: get headers
        for cell in cells:
            if cell.get('is_header', False):
                col_id = cell.get('col_id', 0)
                header_text = cell.get('text', '').lower()
                headers[col_id] = header_text
                print(f"📋 Найден заголовок: col_id={col_id}, text={header_text}")

        # Если заголовки не найдены, используем первую строку как заголовки
        if not headers:
            # Находим все ячейки в первой строке
            first_row_cells = [c for c in cells if c.get('row_id', 0) == 0]
            for cell in first_row_cells:
                col_id = cell.get('col_id', 0)
                header_text = cell.get('text', '').lower()
                headers[col_id] = header_text
                print(f"📋 Используем первую строку как заголовок: col_id={col_id}, text={header_text}")

        # Second pass: get rows
        row_dict = {}
        for cell in cells:
            row_id = cell.get('row_id', 0)

            # Пропускаем строки заголовков, если они есть
            if headers and cell.get('is_header', False):
                continue

            if row_id not in row_dict:
                row_dict[row_id] = {}

            col_id = cell.get('col_id', 0)
            header = headers.get(col_id, str(col_id))
            value = cell.get('text', '')

            # Логируем обработку ячеек
            print(f"📊 Обработка ячейки: row_id={row_id}, col_id={col_id}, header={header}, value={value}")

            # Преобразуем заголовки к стандартным полям
            if any(keyword in header for keyword in ['товар', 'название', 'наимен']):
                row_dict[row_id]['name'] = value
            elif any(keyword in header for keyword in ['кол', 'шт', 'количество']):
                try:
                    # Извлекаем числовое значение
                    quantity = re.search(r'(\d+(?:\.\d+)?)', value)
                    if quantity:
                        row_dict[row_id]['quantity'] = float(quantity.group(1))
                    else:
                        row_dict[row_id]['quantity'] = value
                except:
                    row_dict[row_id]['quantity'] = value
            elif any(keyword in header for keyword in ['арт', 'артикул']):
                row_dict[row_id]['article'] = value
            elif any(keyword in header for keyword in ['цен', 'стоим', 'сумм']):
                # Извлекаем числовое значение цены
                price = re.search(r'(\d+(?:\.\d+)?)', value)
                if price:
                    row_dict[row_id]['price'] = float(price.group(1))
                else:
                    row_dict[row_id]['price'] = value
            else:
                # Для прочих колонок используем оригинальное название
                row_dict[row_id][header] = value

        # Собираем все строки
        rows = list(row_dict.values())

        # Отладочная информация о результатах
        print(f"📊 Извлечено {len(rows)} строк из таблицы")
        if rows:
            print(f"📊 Пример первой строки: {rows[0]}")

        return rows

    def _extract_text_from_rows(self, rows):
        """Извлечение текстового представления из структурированных строк таблицы"""
        text = ""
        for row in rows:
            row_text = " ".join([f"{k}: {v}" for k, v in row.items()])
            text += row_text + "\n"
        return text

    def _extract_columns(self, line):
        """Извлечение колонок из строки таблицы"""
        # Простое разделение по табуляции или нескольким пробелам
        return re.split(r'\t|  +', line.strip())

    async def merge_extraction_results(self, extraction_results, doc_type):
        """Объединение результатов разных AI методов"""
        merged_text = ""
        structured_data = {}

        for result in extraction_results:
            if "text" in result:
                merged_text += f"{result['text']} "
            if "data" in result and isinstance(result["data"], dict):
                structured_data.update(result["data"])

        return {
            "combined_text": merged_text.strip(),
            "structured_data": structured_data,
            "document_type": doc_type
        }

    async def parse_warehouse_commands(self, extraction_result):
        """Парсинг складских команд из извлеченного текста"""
        text = extraction_result.get("combined_text", "")

        # Используем NER для извлечения сущностей
        try:
            entities = self.ner_pipeline(text)
        except:
            entities = []

        # Регулярные выражения для складских данных
        warehouse_items = []

        # Поиск артикулов (F186, ST9, F186ST9)
        article_pattern = r'\b(?:F\d+(?:ST\d+)?|ST\d+)\b'
        articles = re.findall(article_pattern, text, re.IGNORECASE)

        # Поиск количеств
        quantity_pattern = r'\b(\d+)\s*(?:шт|лист|листов|кг|м2|м²)\b'
        quantities = re.findall(quantity_pattern, text, re.IGNORECASE)

        # Поиск цен
        price_pattern = r'\b(\d+(?:\.\d+)?)\s*(?:руб|₽|р)\b'
        prices = re.findall(price_pattern, text, re.IGNORECASE)

        # Объединение найденных данных
        max_items = max(len(articles), len(quantities), 1)

        for i in range(max_items):
            item = {
                "article": articles[i] if i < len(articles) else "",
                "quantity": int(quantities[i]) if i < len(quantities) else 0,
                "price": float(prices[i]) if i < len(prices) else 0.0,
                "name": self.extract_product_name(text, i),
                "confidence": 0.8
            }

            if item["article"] or item["quantity"] > 0:
                warehouse_items.append(item)

        return warehouse_items

    def extract_product_name(self, text, index=0):
        """Извлечение названия товара из текста"""
        # Простая эвристика для извлечения названий
        words = text.split()

        # Ищем слова после артикулов или количеств
        product_keywords = ["лдсп", "мдф", "фанера", "дуб", "бук", "ясень", "орех", "чикаго"]

        for word in words:
            if any(keyword in word.lower() for keyword in product_keywords):
                return word.title()

        return "Товар"

    async def generate_smart_suggestions(self, warehouse_items):
        """Генерация умных предложений"""
        suggestions = []

        for item in warehouse_items:
            if not item["article"]:
                suggestions.append({
                    "type": "missing_article",
                    "message": f"Не найден артикул для товара '{item['name']}'",
                    "action": "manual_input",
                    "priority": "high"
                })

            if item["quantity"] == 0:
                suggestions.append({
                    "type": "missing_quantity",
                    "message": f"Не найдено количество для '{item['article'] or item['name']}'",
                    "action": "manual_input",
                    "priority": "medium"
                })

            if item["price"] == 0:
                suggestions.append({
                    "type": "missing_price",
                    "message": f"Не найдена цена для '{item['article'] or item['name']}'",
                    "action": "suggest_price",
                    "priority": "low"
                })

        return suggestions

    def calculate_overall_confidence(self, extraction_results):
        """Расчет общей уверенности"""
        if not extraction_results:
            return 0.0

        total_confidence = sum(result.get("confidence", 0) for result in extraction_results)
        return round(total_confidence / len(extraction_results), 2)

    def get_stats(self):
        """Статистика работы микросервиса"""
        return {
            "quota_used": f"{self.stats['total_requests']}/20000",
            "uptime_hours": (datetime.now() - self.stats["start_time"]).total_seconds() / 3600,
            "models_loaded": ["TrOCR", "LayoutLM", "TableTransformer", "RuBERT-NER", "SuryaTable"],
            "success_rate": self._calculate_success_rate()
        }

    def _calculate_success_rate(self):
        """Расчет успешного процента"""
        if self.stats["total_requests"] == 0:
            return 0.0
        return round(self.stats["successful_extractions"] / self.stats["total_requests"] * 100, 1)

# Инициализация AI
ai_orchestrator = FreeAIOrchestrator()

# Gradio интерфейс
def process_warehouse_document(image, document_type):
    """Обработка складского документа через Gradio"""
    try:
        import asyncio
        loop = asyncio.new_event_loop()
        asyncio.set_event_loop(loop)

        result = loop.run_until_complete(
            ai_orchestrator.extract_warehouse_data(image, document_type)
        )

        return json.dumps(result, ensure_ascii=False, indent=2)

    except Exception as e:
        return json.dumps({
            "success": False,
            "error": f"Ошибка обработки: {str(e)}",
            "cost": 0.0
        }, ensure_ascii=False, indent=2)

def get_service_stats():
    """Получение статистики сервиса"""
    stats = ai_orchestrator.get_stats()
    return json.dumps(stats, ensure_ascii=False, indent=2)

# Gradio интерфейс
with gr.Blocks(title="SkladBot Free AI") as app:
    gr.Markdown("# 🤖 SkladBot Free AI Microservice")
    gr.Markdown("**БЕСПЛАТНАЯ** обработка складских документов через AI")

    with gr.Tab("Обработка документов"):
        image_input = gr.Image(type="pil", label="Загрузите изображение документа")
        doc_type = gr.Dropdown(
            choices=["auto", "invoice", "table", "form", "handwritten"],
            value="auto",
            label="Тип документа"
        )

        process_btn = gr.Button("🔍 Обработать документ", variant="primary")

        result_output = gr.Textbox(
            label="Результат обработки",
            lines=20,
            max_lines=30
        )

        process_btn.click(
            process_warehouse_document,
            inputs=[image_input, doc_type],
            outputs=result_output
        )

    with gr.Tab("Статистика"):
        stats_btn = gr.Button("📊 Обновить статистику")
        stats_output = gr.Textbox(
            label="Статистика сервиса",
            lines=10
        )

        stats_btn.click(
            get_service_stats,
            outputs=stats_output
        )

    gr.Markdown("---")
    gr.Markdown("💰 **Стоимость**: $0 (100% бесплатно)")
    gr.Markdown("📊 **Лимит**: 20,000 запросов/месяц")
    gr.Markdown("🧠 **AI модели**: TrOCR, LayoutLM, Table Transformer, RuBERT, SuryaTable")

if __name__ == "__main__":
    app.launch(
        server_name="0.0.0.0",
        server_port=7860,
        share=True,
        show_error=True
    )