mirror of
https://github.com/j93es/browser-use-oauth.git
synced 2026-06-05 00:41:28 +09:00
[Update] logger
This commit is contained in:
parent
a655697b0f
commit
267fb40fa4
3 changed files with 90 additions and 50 deletions
3
.gitignore
vendored
3
.gitignore
vendored
|
|
@ -80,4 +80,7 @@ $RECYCLE.BIN/
|
||||||
|
|
||||||
my.sh
|
my.sh
|
||||||
|
|
||||||
|
log.txt
|
||||||
|
data/
|
||||||
|
|
||||||
# End of https://www.toptal.com/developers/gitignore/api/macos,windows
|
# End of https://www.toptal.com/developers/gitignore/api/macos,windows
|
||||||
29
lib/logger.py
Normal file
29
lib/logger.py
Normal file
|
|
@ -0,0 +1,29 @@
|
||||||
|
from pathlib import Path
|
||||||
|
from datetime import datetime
|
||||||
|
|
||||||
|
# 미리 정해진 파일 경로
|
||||||
|
FILE_PATH = Path("data/log.txt")
|
||||||
|
|
||||||
|
def logger(msg: str) -> None:
|
||||||
|
try:
|
||||||
|
"""
|
||||||
|
msg 문자열을 파일 끝에 추가합니다.
|
||||||
|
- 파일이 없으면 새로 생성
|
||||||
|
- 디렉터리가 없으면 생성
|
||||||
|
"""
|
||||||
|
# 상위 디렉터리 생성 (이미 있으면 무시)
|
||||||
|
FILE_PATH.parent.mkdir(parents=True, exist_ok=True)
|
||||||
|
|
||||||
|
# 현재 시각 구해서 포맷팅
|
||||||
|
now = datetime.now()
|
||||||
|
timestamp = now.strftime("%Y-%m-%d %H:%M:%S")
|
||||||
|
|
||||||
|
# 메시지에 개행이 없으면 자동으로 붙이기
|
||||||
|
newline = "" if msg.endswith("\n") else "\n"
|
||||||
|
line = f"[{timestamp}] {msg}{newline}"
|
||||||
|
|
||||||
|
# 'a' 모드: 파일이 없으면 생성, 있으면 이어쓰기
|
||||||
|
with FILE_PATH.open(mode="a", encoding="utf-8") as f:
|
||||||
|
f.write(line)
|
||||||
|
except:
|
||||||
|
print(msg)
|
||||||
48
main.py
48
main.py
|
|
@ -14,6 +14,7 @@ from lib.browser_config import browser_config_kwargs
|
||||||
from lib.is_html import is_html_url
|
from lib.is_html import is_html_url
|
||||||
from lib.read_txt import read_lines_between
|
from lib.read_txt import read_lines_between
|
||||||
from lib.prompt import extend_planner_system_message
|
from lib.prompt import extend_planner_system_message
|
||||||
|
from lib.logger import logger
|
||||||
|
|
||||||
load_dotenv()
|
load_dotenv()
|
||||||
|
|
||||||
|
|
@ -34,6 +35,22 @@ class OAuth(BaseModel):
|
||||||
class OAuthList(BaseModel):
|
class OAuthList(BaseModel):
|
||||||
oauth_providers: List[OAuth]
|
oauth_providers: List[OAuth]
|
||||||
|
|
||||||
|
async def clean_resources(agent, context, browser):
|
||||||
|
"""리소스를 정리하는 함수"""
|
||||||
|
try:
|
||||||
|
await agent.close()
|
||||||
|
except Exception as e:
|
||||||
|
print(f"⚠️ 에이전트 리소스 정리 실패: {e}")
|
||||||
|
try:
|
||||||
|
await context.close()
|
||||||
|
except Exception as e:
|
||||||
|
print(f"⚠️ 컨텍스트 리소스 정리 실패: {e}")
|
||||||
|
try:
|
||||||
|
await browser.close()
|
||||||
|
except Exception as e:
|
||||||
|
print(f"⚠️ 브라우저 리소스 정리 실패: {e}")
|
||||||
|
|
||||||
|
|
||||||
# ── URL별로 Browser를 새로 띄우는 함수 ──
|
# ── URL별로 Browser를 새로 띄우는 함수 ──
|
||||||
async def scan_one_url(url: str, skip_html_check: bool = False):
|
async def scan_one_url(url: str, skip_html_check: bool = False):
|
||||||
target_url = url if url.startswith("http") else f"https://{url}"
|
target_url = url if url.startswith("http") else f"https://{url}"
|
||||||
|
|
@ -58,6 +75,8 @@ async def scan_one_url(url: str, skip_html_check: bool = False):
|
||||||
except Exception as e:
|
except Exception as e:
|
||||||
print(f"⚠️ Failed to notify backend: {e}")
|
print(f"⚠️ Failed to notify backend: {e}")
|
||||||
|
|
||||||
|
try_cnt = 0
|
||||||
|
while True:
|
||||||
# 2) Browser + Context 생성
|
# 2) Browser + Context 생성
|
||||||
browser = Browser(config=BrowserConfig(**browser_config_kwargs()))
|
browser = Browser(config=BrowserConfig(**browser_config_kwargs()))
|
||||||
context = BrowserContext(
|
context = BrowserContext(
|
||||||
|
|
@ -75,7 +94,7 @@ async def scan_one_url(url: str, skip_html_check: bool = False):
|
||||||
|
|
||||||
# 3) Agent, Controller 생성
|
# 3) Agent, Controller 생성
|
||||||
initial_actions = [
|
initial_actions = [
|
||||||
{'open_tab': {'url': target_url, 'wait_for_network_idle': True}},
|
{'open_tab': {'url': target_url}},
|
||||||
]
|
]
|
||||||
|
|
||||||
controller = Controller(output_model=OAuthList)
|
controller = Controller(output_model=OAuthList)
|
||||||
|
|
@ -91,12 +110,10 @@ async def scan_one_url(url: str, skip_html_check: bool = False):
|
||||||
retry_delay=60,
|
retry_delay=60,
|
||||||
)
|
)
|
||||||
|
|
||||||
try_cnt = 0
|
|
||||||
while True:
|
|
||||||
try:
|
try:
|
||||||
# 4) 실제 스캔 실행
|
# 4) 실제 스캔 실행
|
||||||
response = await agent.run()
|
response = await agent.run()
|
||||||
final_result = response.final_reult()
|
final_result = response.final_result()
|
||||||
if final_result is None:
|
if final_result is None:
|
||||||
raise ValueError("final_result()가 None을 반환했습니다.")
|
raise ValueError("final_result()가 None을 반환했습니다.")
|
||||||
|
|
||||||
|
|
@ -128,35 +145,26 @@ async def scan_one_url(url: str, skip_html_check: bool = False):
|
||||||
writer.writerow([url, entry.provider, entry.oauth_uri])
|
writer.writerow([url, entry.provider, entry.oauth_uri])
|
||||||
print(f"✅ OAuth providers saved to {csv_file}\n")
|
print(f"✅ OAuth providers saved to {csv_file}\n")
|
||||||
|
|
||||||
|
await clean_resources(agent, context, browser)
|
||||||
|
|
||||||
# 성공적으로 처리했으므로 반복문 탈출
|
# 성공적으로 처리했으므로 반복문 탈출
|
||||||
break
|
break
|
||||||
|
|
||||||
except Exception as e:
|
except Exception as e:
|
||||||
if try_cnt >= 3:
|
if try_cnt >= 3:
|
||||||
print(f"❌ {url} 스캔에 실패했습니다. 에러: {e}")
|
print(f"❌ {url} 스캔에 실패했습니다. 에러: {e}")
|
||||||
|
logger(f"❌ {url} 스캔에 실패했습니다. 에러: {e}")
|
||||||
break
|
break
|
||||||
try_cnt += 1
|
try_cnt += 1
|
||||||
print(f"⚠️ 에러 발생, 60초 대기 후 재시도합니다. (URL: {url})")
|
print(f"⚠️ 에러 발생: {e}. {try_cnt}번째 재시도 중...")
|
||||||
|
|
||||||
|
await clean_resources(agent, context, browser)
|
||||||
|
|
||||||
# 1분 대기
|
# 1분 대기
|
||||||
await asyncio.sleep(60)
|
await asyncio.sleep(5)
|
||||||
# 반복문을 통해 재시도
|
# 반복문을 통해 재시도
|
||||||
continue
|
continue
|
||||||
|
|
||||||
# 리소스 정리
|
|
||||||
try:
|
|
||||||
await agent.close()
|
|
||||||
except:
|
|
||||||
pass
|
|
||||||
try:
|
|
||||||
await context.close()
|
|
||||||
except:
|
|
||||||
pass
|
|
||||||
try:
|
|
||||||
await browser.close()
|
|
||||||
except:
|
|
||||||
pass
|
|
||||||
|
|
||||||
async def loop(filepath: str, start_line: int, end_line: int, skip_html_check: bool = False):
|
async def loop(filepath: str, start_line: int, end_line: int, skip_html_check: bool = False):
|
||||||
# 인자값으로 받은 파일 경로와 줄 범위를 통해 도메인 리스트 생성
|
# 인자값으로 받은 파일 경로와 줄 범위를 통해 도메인 리스트 생성
|
||||||
target_list = read_lines_between(
|
target_list = read_lines_between(
|
||||||
|
|
|
||||||
Loading…
Add table
Add a link
Reference in a new issue