Spaces:

nitrox
/

ten

Runtime error

App Files Files Community

3v324v23 commited on Mar 28

Commit

eeea7be

1 Parent(s): 74e8d5b

Реализация полноценного прокси для работы Playground UI в HuggingFace Space

Browse files

Files changed (1) hide show

app.py +188 -72

app.py CHANGED Viewed

@@ -6,6 +6,10 @@ import time
 from pathlib import Path
 import signal
 import shutil
 def main():
     processes = []
@@ -23,29 +27,33 @@ def main():
             print(f"ERROR: Playground directory not found at {playground_dir}", file=sys.stderr)
             return 1
-        # Создаем директорию для логов
-        os.makedirs("/tmp/ten_agent", exist_ok=True)
         # Запускаем API сервер
         print("Starting TEN-Agent API server on port 8080...")
         api_server_env = os.environ.copy()
-        api_server_env["LOG_PATH"] = "/tmp/ten_agent"
         api_server_env["LOG_STDOUT"] = "true"
         api_server_process = subprocess.Popen([str(api_binary)], env=api_server_env)
         processes.append(api_server_process)
         # Даем время API серверу запуститься
-        time.sleep(5)
-        # Запускаем Playground UI
         print("Starting Playground UI on port 3000...")
         playground_env = os.environ.copy()
         playground_env["AGENT_SERVER_URL"] = "http://localhost:8080"  # Подключаемся к локальному API серверу
-        # Исправляем параметры командной строки для Next.js
         playground_process = subprocess.Popen(
-            ["pnpm", "start", "--", "--port", "3000"],
-            cwd=str(playground_dir),
             env=playground_env
         )
         processes.append(playground_process)
@@ -53,71 +61,173 @@ def main():
         # Даем время Playground UI запуститься
         time.sleep(5)
-        # Запускаем простую HTML страницу для Hugging Face
-        from http.server import HTTPServer, SimpleHTTPRequestHandler
-        class SimpleHandler(SimpleHTTPRequestHandler):
             def do_GET(self):
-                self.send_response(200)
-                self.send_header('Content-type', 'text/html; charset=utf-8')
-                self.end_headers()
-                html_content = """
-                <!DOCTYPE html>
-                <html>
-                <head>
-                    <title>TEN Agent - Hugging Face Space</title>
-                    <meta charset="utf-8">
-                    <style>
-                        body { font-family: Arial, sans-serif; line-height: 1.6; max-width: 800px; margin: 0 auto; padding: 20px; }
-                        h1 { color: #333; }
-                        .info { background: #f8f9fa; border-left: 4px solid #28a745; padding: 15px; margin-bottom: 20px; }
-                        .warning { background: #fff3cd; border-left: 4px solid #ffc107; padding: 15px; margin-bottom: 20px; }
-                        .endpoint { background: #e9ecef; padding: 10px; border-radius: 5px; font-family: monospace; }
-                        .api { margin-top: 30px; }
-                    </style>
-                </head>
-                <body>
-                    <h1>TEN Agent запущен успешно!</h1>
-                    <div class="info">
-                        <p>TEN Agent API сервер работает на порту 8080.</p>
-                        <p>Playground UI запущен на порту 3000.</p>
-                    </div>
-                    <div class="warning">
-                        <p><strong>Внимание:</strong> Из-за ограничений Hugging Face Space, доступ к интерфейсу через прокси может быть нестабильным.</p>
-                    </div>
-                    <div class="api">
-                        <h2>API эндпоинты:</h2>
-                        <ul>
-                            <li>API сервер: <span class="endpoint">http://localhost:8080</span></li>
-                            <li>Playground UI: <span class="endpoint">http://localhost:3000</span></li>
-                        </ul>
-                    </div>
-                    <h2>Инструкция по локальному использованию</h2>
-                    <p>Для наилучшего опыта, подключите локальный Playground к этому API:</p>
-                    <ol>
-                        <li>Клонируйте репозиторий: <code>git clone https://github.com/TEN-framework/TEN-Agent.git</code></li>
-                        <li>Перейдите в директорию playground: <code>cd TEN-Agent/playground</code></li>
-                        <li>Установите зависимости: <code>pnpm install</code></li>
-                        <li>Запустите Playground с подключением к API: <code>AGENT_SERVER_URL=https://nitrox-ten.hf.space pnpm dev</code></li>
-                        <li>Откройте в браузере: <code>http://localhost:3000</code></li>
-                    </ol>
-                    <p>См. <a href="https://github.com/TEN-framework/TEN-Agent" target="_blank">документацию TEN Agent</a> для получения дополнительной информации.</p>
-                </body>
-                </html>
-                """
-                self.wfile.write(html_content.encode('utf-8'))
-        # Запускаем HTTP сервер
-        port = 7860  # Hugging Face Space обычно ожидает сервер на порту 7860
-        print(f"Starting HTTP server on port {port}...")
-        httpd = HTTPServer(('0.0.0.0', port), SimpleHandler)
-        httpd.serve_forever()
     except KeyboardInterrupt:
         print("Shutting down...")
@@ -125,10 +235,16 @@ def main():
         # Завершаем все процессы при выходе
         for proc in processes:
             try:
-                proc.terminate()
-                proc.wait(timeout=5)
             except:
-                proc.kill()
     return 0

 from pathlib import Path
 import signal
 import shutil
+import http.client
+import socketserver
+from http.server import HTTPServer, BaseHTTPRequestHandler
+import threading
 def main():
     processes = []
             print(f"ERROR: Playground directory not found at {playground_dir}", file=sys.stderr)
             return 1
+        # Создаем директорию для логов с правами доступа
+        log_dir = "/tmp/ten_agent"
+        os.makedirs(log_dir, exist_ok=True)
+        # Даем всем права на запись в директорию логов
+        os.chmod(log_dir, 0o777)
         # Запускаем API сервер
         print("Starting TEN-Agent API server on port 8080...")
         api_server_env = os.environ.copy()
+        api_server_env["LOG_PATH"] = log_dir
         api_server_env["LOG_STDOUT"] = "true"
         api_server_process = subprocess.Popen([str(api_binary)], env=api_server_env)
         processes.append(api_server_process)
         # Даем время API серверу запуститься
+        time.sleep(3)
+        # Запускаем Playground UI на порту 3000
         print("Starting Playground UI on port 3000...")
         playground_env = os.environ.copy()
         playground_env["AGENT_SERVER_URL"] = "http://localhost:8080"  # Подключаемся к локальному API серверу
+        playground_env["NODE_ENV"] = "production"  # Убедимся, что запускаем в production режиме
+        # Запускаем Next.js с корректными параметрами
         playground_process = subprocess.Popen(
+            "cd /app/playground && pnpm start -- --port 3000",
+            shell=True,
             env=playground_env
         )
         processes.append(playground_process)
         # Даем время Playground UI запуститься
         time.sleep(5)
+        # Создаем эффективный прокси-сервер
+        class ProxyHandler(BaseHTTPRequestHandler):
+            # Отключаем логирование каждого запроса
+            def log_message(self, format, *args):
+                if args and args[0].startswith('GET /?logs=container'):
+                    return  # Игнорируем логи для запросов логов контейнера
+                sys.stderr.write("%s - - [%s] %s\n" %
+                                (self.client_address[0],
+                                  self.log_date_time_string(),
+                                  format % args))
             def do_GET(self):
+                self._handle_request('GET')
+            def do_POST(self):
+                self._handle_request('POST')
+            def do_PUT(self):
+                self._handle_request('PUT')
+            def do_DELETE(self):
+                self._handle_request('DELETE')
+            def do_OPTIONS(self):
+                self._handle_request('OPTIONS')
+            def _handle_request(self, method):
+                try:
+                    # Определяем, какой сервер должен обработать запрос
+                    target_host = 'localhost'
+                    # API endpoints идут на порт 8080 (API сервер)
+                    if self.path.startswith('/health') or \
+                       self.path.startswith('/list') or \
+                       self.path.startswith('/graphs') or \
+                       self.path.startswith('/start') or \
+                       self.path.startswith('/stop') or \
+                       self.path.startswith('/ping') or \
+                       self.path.startswith('/token') or \
+                       self.path.startswith('/dev-tmp') or \
+                       self.path.startswith('/vector'):
+                        target_port = 8080
+                    else:
+                        # Все остальные запросы (включая / и UI assets) идут на порт 3000 (Playground)
+                        target_port = 3000
+                    # Пробуем подключиться к целевому серверу
+                    conn = http.client.HTTPConnection(target_host, target_port, timeout=30)
+                    # Получаем данные запроса для POST/PUT
+                    body = None
+                    if method in ['POST', 'PUT']:
+                        content_length = int(self.headers.get('Content-Length', 0))
+                        body = self.rfile.read(content_length) if content_length > 0 else None
+                    # Копируем все заголовки запроса
+                    headers = {k: v for k, v in self.headers.items()}
+                    # Исправляем Host заголовок
+                    headers['Host'] = f"{target_host}:{target_port}"
+                    # Отправляем запрос на правильный сервер
+                    conn.request(method, self.path, body=body, headers=headers)
+                    # Получаем ответ
+                    response = conn.getresponse()
+                    # Отправляем статус ответа
+                    self.send_response(response.status)
+                    # Копируем все заголовки ответа
+                    for header, value in response.getheaders():
+                        if header.lower() != 'transfer-encoding':  # Исключаем заголо��ок transfer-encoding
+                            self.send_header(header, value)
+                    # Завершаем заголовки
+                    self.end_headers()
+                    # Отправляем тело ответа
+                    chunk_size = 8192
+                    while True:
+                        chunk = response.read(chunk_size)
+                        if not chunk:
+                            break
+                        self.wfile.write(chunk)
+                    # Закрываем соединение
+                    conn.close()
+                except Exception as e:
+                    print(f"Proxy error for {method} {self.path}: {str(e)}", file=sys.stderr)
+                    # Для запросов мониторинга не показываем ошибку
+                    if self.path == '/?logs=container':
+                        self.send_response(200)
+                        self.send_header('Content-type', 'text/plain')
+                        self.end_headers()
+                        self.wfile.write(b"OK")
+                        return
+                    # Отправляем страницу с ошибкой и разъяснением
+                    self.send_response(500)
+                    self.send_header('Content-type', 'text/html; charset=utf-8')
+                    self.end_headers()
+                    error_message = f"""
+                    <!DOCTYPE html>
+                    <html>
+                    <head>
+                        <title>TEN Agent - Error</title>
+                        <meta charset="utf-8">
+                        <style>
+                            body {{ font-family: Arial, sans-serif; line-height: 1.6; max-width: 800px; margin: 0 auto; padding: 20px; }}
+                            h1 {{ color: #dc3545; }}
+                            .error {{ background: #f8d7da; border-left: 4px solid #dc3545; padding: 15px; margin-bottom: 20px; }}
+                            pre {{ background: #f8f9fa; padding: 10px; border-radius: 5px; overflow-x: auto; }}
+                        </style>
+                    </head>
+                    <body>
+                        <h1>Произошла ошибка при обработке запроса</h1>
+                        <div class="error">
+                            <p><strong>Детали ошибки:</strong> {str(e)}</p>
+                            <p>Целевой порт: {target_port}</p>
+                        </div>
+                        <p>Система пытается запустить все компоненты. Попробуйте обновить страницу через минуту.</p>
+                    </body>
+                    </html>
+                    """
+                    self.wfile.write(error_message.encode('utf-8'))
+        # Запускаем HTTP прокси-сервер
+        port = 7860  # Hugging Face Space ожидает сервер на порту 7860
+        print(f"Starting proxy server on port {port}...")
+        # Разрешаем повторное использование адреса и порта
+        class ReuseAddressServer(socketserver.ThreadingTCPServer):
+            allow_reuse_address = True
+            daemon_threads = True
+        server = ReuseAddressServer(('0.0.0.0', port), ProxyHandler)
+        # Запускаем сервер
+        server_thread = threading.Thread(target=server.serve_forever)
+        server_thread.daemon = True
+        server_thread.start()
+        # Продолжаем выполнение, чтобы можно было обработать сигналы остановки
+        while True:
+            # Проверяем, что все процессы еще живы
+            if not api_server_process.poll() is None:
+                print("API server has stopped, restarting...")
+                api_server_process = subprocess.Popen([str(api_binary)], env=api_server_env)
+                processes = [p for p in processes if p != api_server_process]
+                processes.append(api_server_process)
+            if not playground_process.poll() is None:
+                print("Playground UI has stopped, restarting...")
+                playground_process = subprocess.Popen(
+                    "cd /app/playground && pnpm start -- --port 3000",
+                    shell=True,
+                    env=playground_env
+                )
+                processes = [p for p in processes if p != playground_process]
+                processes.append(playground_process)
+            time.sleep(10)
     except KeyboardInterrupt:
         print("Shutting down...")
         # Завершаем все процессы при выходе
         for proc in processes:
             try:
+                if proc and proc.poll() is None:
+                    proc.terminate()
+                    proc.wait(timeout=5)
             except:
+                if proc and proc.poll() is None:
+                    proc.kill()
+        # Останавливаем сервер
+        if 'server' in locals():
+            server.shutdown()
     return 0