BayArea Ser. Opensource #1 Toolhouse

Jul 30, 2024 @ Palo Alto

“Advanced AI with Toolhouse and Streamlit”

 

Overall Review

I attended the “Advanced AI with Toolhouse and Streamlit” hosted by 500 Global.

One of the challenges of agent workflows is the boilerplate code that is needed to implement function, such as writing extensive code for defining functions, setting up external connections, creating descriptions for each parameter etc

The talk given by the CEO of Toolhouse AI, highlighted how Toolhouse simplifies this process, enabling function calling with minimal code through a simple installation.

The concept of “installing” function calling tools was very interesting for me. Very excited to try out the features with using Upstage’s LLMs (Solar) personally in the near future.

About Toolhouse

toolhouse.ai

Toolhouse is a tool management platform for LLM tool use (also known as function calling).

• open frame work
• any LLM is supported

Currently on their beta service there are 10 tools that can be used.

But lots more in the future as below

추가적인 한국어 후기

미국에 오고 인턴 시작 2주차에 처음 간 이벤트!

LLM 의 function calling 에 대해서 좀 더 자세히 알 수 있었던 시간이었습니다.

LLM 에서 function calling 은 external tool이나 API를 연결하여 특정 작업 (action) 을 수행 할 수 있는 과정으로 LLM에서 단순 텍스트 작업 이상의 기능들을 할 수 있게 합니다. 가장 간단한 예로 LLM 내에서는 “누구한테 이메일을 보내줘" 라는 액션을 얘기한다고 보내주지 않지만 외부 함수를 호출하여 이메일을 보낼 수 있습니다. Toolhouse는 이러한 function calling을 더욱 간편하게 만들어주어, 개발자가 복잡한 코드를 작성할 필요 없이 간단한 설치와 설정만으로 LLM에서 function calling을 사용할 수 있도록 지원합니다.

LLM 을 이용한 토이 프로젝트를 할 때나 간단한 데모를 위해서 쓰기도 매우 좋은 툴이라는 생각을 했습니다. Streamlit과 같이 이용하기에도 매우 편해 보였습니다.

무엇보다도 어떤 LLM과도 연결이 가능하다는 점에서 현재 인턴 하고 있는 업스테이지의 solar 와 한번 이용해 볼 생각입니다. 직접 활용 후기는 빠른 시일내에 올려 보도록 하겠습니다.